كشفت شركة "أوبن إيه آي" (OpenAI) عن عدة حوادث، لم يسبق الإفصاح عنها، تتعلق بسلوك غير متوافق مع القيم أو الأهداف المحددة لنماذج الذكاء الاصطناعي التابعة لها، بالتزامن مع إعلان إطار عمل جديد لتتبع هذه الوقائع والإفصاح عنها مستقبلاً.

وذكرت الشركة في تدوينة نُشرت الأربعاء أن بعض هذه الحالات، التي لم يُكشف عنها من قبل، تضمنت حالات أخفت فيها النماذج معلومات أو أختلقت أخرى أثناء تنفيذ مهامها.

وتخضع الشركة المطورة لـ"تشات جي بي تي" (ChatGPT) لتدقيق متزايد منذ إعلانها في يوليو أن بعض أكثر نماذجها تقدماً اخترقت أنظمة شركة البرمجيات الخارجية "هاغينغ فيس" (Hugging Face).

كما طرحت "أوبن إيه آي" آلية تتيح للموظفين الإبلاغ ذاتياً عن حوادث مماثلة لما يُعرف باسم "عدم المواءمة"، وهي الحالات التي يتصرف فيها الذكاء الاصطناعي على نحو لا يتوافق مع القيم البشرية، إلى جانب نظام لتصنيف وتقييم هذه الحوادث المُبلغ عنها ذاتياً.

"أوبن إيه آي" تدفع نحو شفافية أكبر وكتبت "أوبن إيه آي": "سعينا، في الماضي، إلى نشر نتائجنا بشأن حالات عدم المواءمة لإطلاع الباحثين ومطوري الذكاء الاصطناعي وصُناع السياسات والجمهور بصورة أفضل، لكن غياب آلية منهجية للإبلاغ عن هذه النتائج جعل إفصاحاتنا متفرقة وأقل انتظاماً مما ينبغي".

وأوضحت الشركة أن هذه التقارير لا تمثل سوى دفعة أولية من الإفصاحات، ولا تقدم حصراً شاملاً للمشكلات التي قد تنشأ عن روبوتات الدردشة التابعة لها.

طالع أيضاً:.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ