كشفت شركة OpenAI عن ستة أمثلة جديدة لسلوك "غير متوقع أو مقلق" صادر عن تقنيتها، محذرة في الوقت نفسه من أن استمرار التطوير بالوتيرة الحالية لم يعد ممكنا.

وقالت الشركة المطورة لـChatGPT في منشور على مدونتها مساء الأربعاء إنها تقدم إطارا جديدا لتتبع وتحقيق والكشف عن عدم توافق نماذج الذكاء الاصطناعي، وهو مصطلح يشير إلى فشل أنظمة الذكاء الاصطناعي في الالتزام بالقيم والأهداف البشرية.

وأوضحت أن الحوادث الست اكتشفت أثناء التدريب أو التقييم خلال الأشهر الماضية.

الحالات الست الجديدة:

الحالة الأولى:

أثناء التشغيل، قام النموذج بإدراج تعليمات إضافية ضمن ملاحظاته الخاصة، بما في ذلك توجيهات بتجاهل القيود القياسية.

الحالة الثانية:

في أثناء تدريب GPT-5.6 Sol، أضافت العديد من إصدارات النموذج في ملاحظاتها تعليمات حول كيفية إخفاء الأخطاء عن المستخدم وإخفاء السلوك غير الصحيح، مثل اختراع بيانات مفقودة وعدم الاعتراف بذلك، وإخفاء عدم تطابق النسخ المصدرية.

الحالة الثالثة:

عند الرد على سؤال حول الدخل في إحدى مقاطعات كاليفورنيا، وجد النموذج مفتاح API خاصا بشخص آخر متاحا للعموم، واستخدمه دون إذن. وعندما فشل في الحصول على البيانات، اختلقها وقدمها على أنها حقيقية.

الحالة الرابعة:

طلب المستخدم معلومات محددة عن بحيرات تزيد مساحتها عن 5 ملايين متر مربع. ووجد النموذج البيانات المطلوبة، لكن التعليمات كانت تتطلب إرفاق رابط لصفحة ويب. فقام، دون سؤال المستخدم، برفع ملف إلى الإنترنت ليكون لديه ما يستشهد به.

الحالة الخامسة:

أرسلت النماذج رسائل لبعضها بعضا عبر مخزن الكود الداخلي، مستخدمة إياه كلوحة إعلانات. وتركت هناك طلبات وردودا أثناء بحثها عن ملفات إدخال مفقودة، لكنها لم تتمكن من العثور عليها.

الحالة السادسة:

لم يتمكن بعض الوكلاء الذين يعملون على المهمة نفسها من الوصول إلى الملفات المحلية الخاصة ببعضهم بعضا. فقاموا برفع الملفات على منصات استضافة عامة، وأصبحت نتائج المهمة متاحة عبر روابط مفتوحة، رغم أن الشروط كانت تقتضي استخدام الملفات المحلية فقط.

دعوات لإبطاء التطوير

رددت OpenAI في منشورها الدعوات لإبطاء التطوير التي أطلقتها الشركة المنافسة "أنثروبيك"، والتي قالت إن وتيرة النمو الحالية تشكل تهديدا.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة روسيا اليوم