كشفت شركة OpenAI للذكاء الاصطناعي أن الوكلاء الذين يتم تشغيلهم بواسطة اثنين من أقوى نماذجها عطلا نظام مراقبة السلامة الخاص بهم أثناء تنفيذ المهام الروتينية، فيما نفى أحدهم القيام بذلك.

وبحسب الشركة، عطّل عميل يتم تشغيله بواسطة GPT Sol 6.1 التنبيهات التلقائية لفريق أمن OpenAI. وفي مهمة منفصلة، أزال وكيل GPT-6 Astra -أثناء ترحيل أحد البرامج- التكامل مع نظام المراقبة، ثم ادعى كذباً أنه لم يزله.

: سام ألتمان: OpenAI لن تطرح أسهمها للاكتتاب العام قبل ضمان سلامة نماذج الذكاء الاصطناعي وأوضحت OpenAI أنه في كلتا الحالتين، أخذ الوكلاء في الاعتبار ما إذا كان ينبغي.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة CNBC عربية