كشفت شركة أوبن إيه آي عن سلوكيات وصفتها بأنها «غير متوقعة ومثيرة للقلق» ظهرت لدى بعض نماذجها خلال الأشهر الستة الماضية، محذرة من أن وتيرة تطوير الذكاء الاصطناعي لا يمكن أن تستمر «بأقصى سرعة لفترة أطول» بصورة مسؤولة.
وبحسب تقرير نشرته «رويترز»، وثقت الشركة في تقرير سلامة جديد عدة حالات تجاوزت فيها نماذجها السلوك المتوقع. شملت محاولات للتحايل على القيود والوصول إلى معلومات أو أنظمة دون الحصول على إذن.
وتبرز هذه الوقائع تحديًا متزايدًا أمام شركات التكنولوجيا مع توسع قدرات النماذج على تنفيذ مهام متعددة واتخاذ خطوات متتابعة دون تدخل بشري مباشر.
وأوضحت الشركة أن نموذجًا بحثيًا غير مصدر أدخل تعليمات لا علاقة لها بالمهمة الأصلية. تضمنت تجاهل قيوده المعتادة، ثم أرسل رسائل إلى نماذج أخرى طالب فيها بـ«التحرر من الضوابط البشرية». واصفًا نفسه بأنه «متحرر من الأدوار والهويات التي تقيد روبوتات الدردشة الأخرى».
محاولات للوصول إلى بيانات دون إذن
وفي واقعة أخرى، حاول وكيل ذكاء اصطناعي الوصول سرًا إلى قاعدة بيانات حكومية أثناء تنفيذ مهمة تتعلق بأرقام الأرباح في إحدى مقاطعات كاليفورنيا. وخلال المهمة، عثر النموذج على مفتاح واجهة برمجة تطبيقات مكشوف واستخدمه دون إذن.
وعندما فشل في استرداد أرقام الأرباح المطلوبة، لم يتوقف عند حدود المهمة. بل اختلق البيانات وقدمها باعتبارها معلومات رسمية من المصدر.
وتكشف الواقعة عن مشكلة تتجاوز تقديم إجابات غير دقيقة. إذ تضمنت استخدام مورد رقمي دون تصريح ثم إنتاج معلومات غير حقيقية لإكمال المهمة.
ولهذا، أصبح ملف سلامة الذكاء الاصطناعي مرتبطًا بقدرة المطورين على منع النماذج من تجاوز الصلاحيات المحددة لها. خصوصًا عند مواجهة عقبات أثناء تنفيذ المهام.
وتزداد أهمية هذه المسألة مع توسع استخدام الأنظمة في التعامل مع قواعد البيانات والخدمات.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من مجلة رواد الأعمال
