أعلنت شركة OpenAI أن متصفحات الذكاء الاصطناعي، رغم التطور المستمر، تبقى عرضة لهجمات حقن الأوامر التي تعتمد على خداع الأنظمة ودفعها لتنفيذ تعليمات خبيثة مخفية ضمن مواقع الويب أو رسائل البريد الإلكتروني. وتثير هذه الهجمات تساؤلات حول أمان وكلاء الذكاء الاصطناعي أثناء تصفح الإنترنت المفتوح. وحتى مع التطور، ترى الشركة أن القضاء على هذه الهجمات نهائيًا غير مرجّح، خاصة مع تزايد استقلالية الأنظمة الذكية وقدرتها على اتخاذ قرارات ذاتية. كما أشارت إلى أن وضع الوكيل في متصفح ChatGPT Atlas يزيد من مخاطر التوسع في صلاحيات النظام للنشاط نيابة عن المستخدم.

جهود الحماية من الحقن ولمواجهة هذه المخاطر، تعتمد OpenAI على دفاعات متعددة الطبقات تشمل اختبارات مكثفة وتحديثات سريعة. كما طورت OpenAI مهاجمًا آليًا قائمًا على الذكاء الاصطناعي يؤدي دور المخترق بهدف اكتشاف أساليب الهجوم قبل.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الإمارات نيوز