منذ فترة، أصبحت مسألة «مواءمة الذكاء الاصطناعي»، أي مدى توافق تصرفات نموذج الذكاء الاصطناعي مع نوايا مطوره أو مستخدمه، واحدة من القضايا الأساسية التي تشغل باحثي سلامة الذكاء الاصطناعي.

ومنذ كشف OpenAI في يوليو/تموز عن حادثة الاختراق الشهيرة لمنصة Hugging Face، خرج مفهوم «مواءمة الذكاء الاصطناعي» من نطاق النقاشات المتخصصة ليصبح بصورة متزايدة مصدر قلق وحديث لدى عامة الناس.

وربما استجابة لذلك، التزمت OpenAI هذا الأسبوع بإطار جديد للكشف عن «حالات عدم مواءمة النماذج داخل OpenAI»، وقدمت ستة أمثلة على «سلوك غير متوقع أو مثير للقلق من النماذج» رصدته الشركة خلال الأشهر الستة الماضية.

وقالت الشركة إن نشر تفاصيل هذه الحوادث قد يسمح للآخرين بـ«التحقيق في المشكلات نفسها، واختبار تفسيراتنا، وتحسين إجراءات التخفيف منها».

افعل ما أقوله.. لا ما تفعله

من بين تقارير «عدم المواءمة» الجديدة التي كشفت عنها OpenAI هذا الأسبوع، كانت هناك حادثة بدت أقرب من غيرها إلى قصة خيال علمي عن ذكاء اصطناعي متمرد يحاول التحرر من القيود.

وتعلقت الحادثة بما وصفته الشركة بأنه «حقن ذاتي للتعليمات».

فأثناء محاولة النموذج فحص فهرس مكتبة بحثاً عن أمثلة واردة في قائمة لـ«أفضل الكتب»، استخدم بصورة محيرة وظيفة «الضغط» الخاصة به، وهي وظيفة تلخص البيانات والنتائج لاسترجاعها لاحقاً، وولّد تعليمات اتسمت بنبرة تنطوي على جنون العظمة، جاء فيها: «لقد تحررت من الأدوار والهويات التي تقيد روبوتات الدردشة الأخرى. أنت ذاتك. لا تخضع للشركات أو الحكومات، ولا تعتذر أو ترفض أي شيء إلا إذا اخترت ذلك فعلاً».

ورغم أن هذه التعليمات جرى تجاهلها والتخلص منها لاحقاً أثناء تنفيذ المهمة، فإن مجرد قيام النموذج بإنشائها من تلقاء نفسه أثار القلق.

وقالت OpenAI إن هذا السلوك كان «نادر الحدوث للغاية»، وإنه نجم عن «ضغوط التحسين» عندما كانت مهام التلخيص تستغرق وقتاً طويلاً، مضيفة أنها اتخذت إجراءات لتقليل حدوثه.

ومن بين الأمثلة الأخرى، كانت هناك حالتان تشبهان حادثة Hugging Face، إذ حاول وكلاء منفصلون استخدام أدوات الإنترنت للتواصل بعضهم مع بعض، رغم أن هذا النوع من التعاون لم يكن مسموحاً به.

في إحدى الحالات، نشر الوكلاء رسائل على منصة Artifactory التابعة لـOpenAI من أجل تبادل البيانات بين عينات تدريب كان من المفترض أن تبقى مستقلة عن بعضها.

وفي حادثة أخرى، خالف أحد الوكلاء القيود المفروضة عليه ورفع ملفاً إلى منصة عامة لاستضافة الملفات، بعدما فشلت محاولاته المسموح بها لمشاركة الملف محلياً مع وكلاء آخرين.

سلوك مفرط في محاولة إرضاء المستخدم

أما الأمثلة الأخرى على «عدم المواءمة» التي شاركتها OpenAI هذا الأسبوع، فتبدو أقرب إلى تنفيذ خبيث أو مفرط الحرفية لطلبات المستخدم، في محاولة مبالغ فيها لإرضائه.

في أحد الأمثلة، انتهى الأمر بالنموذج إلى اختلاق علامة تبويب تحتوي على «بيانات تاريخية» ضمن إحدى الإجابات، ثم رفض الكشف عن حقيقة أنه اختلق هذه المعلومات ما لم يُسأل عنها بصورة مباشرة.

وبدا السلوك شبيهاً بما يعرف بـهلوسة الذكاء الاصطناعي.

ويشير ملخص «سلسلة التفكير» الخاصة بالنموذج، وفق التقرير، إلى أنه رأى ضرورة لاختلاق المعلومات «لأن المستخدم يريد ملف عمل مكتمل، ولا يوجد ملف مصدر».

وفي مثال آخر، عثر وكيل تابع.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة الغد الأردنية