إنشاء ملخص باستخدام الذكاء الاصطناعي الخلاصة كشفت شركة أوبن إيه آي عن حوادث سلوك غير متوافق مع قيم نماذج الذكاء الاصطناعي التابعة لها، وأعلنت إطار عمل جديد للإبلاغ عنها. الشركة طرحت آلية للموظفين للإبلاغ عن حالات "عدم المواءمة". تصاعدت المخاوف الأمنية بعد اختراقات إلكترونية باستخدام نماذج ذكاء اصطناعي، ودعا قادة الصناعة لإبطاء تطوير التكنولوجيا. جارٍ إنشاء ملخص للمقال...

كشفت شركة "أوبن إيه آي" (OpenAI) عن عدة حوادث، لم يسبق الإفصاح عنها، تتعلق بسلوك غير متوافق مع القيم أو الأهداف المحددة لنماذج الذكاء الاصطناعي التابعة لها، بالتزامن مع إعلان إطار عمل جديد لتتبع هذه الوقائع والإفصاح عنها مستقبلاً.

وذكرت الشركة في تدوينة نُشرت الأربعاء أن بعض هذه الحالات، التي لم يُكشف عنها من قبل، تضمنت حالات أخفت فيها النماذج معلومات أو أختلقت أخرى أثناء تنفيذ مهامها.

وتخضع الشركة المطورة لـ"تشات جي بي تي" (ChatGPT) لتدقيق متزايد منذ إعلانها في يوليو أن بعض أكثر نماذجها تقدماً اخترقت أنظمة شركة البرمجيات الخارجية "هاغينغ فيس" (Hugging Face).

كما طرحت "أوبن إيه آي" آلية تتيح للموظفين الإبلاغ ذاتياً عن حوادث مماثلة لما يُعرف باسم "عدم المواءمة"، وهي الحالات التي يتصرف فيها الذكاء الاصطناعي على نحو لا يتوافق مع القيم البشرية، إلى جانب نظام لتصنيف وتقييم هذه الحوادث المُبلغ عنها ذاتياً.

"أوبن إيه آي" تدفع نحو شفافية أكبر وكتبت "أوبن إيه آي": "سعينا، في الماضي، إلى نشر نتائجنا بشأن حالات عدم المواءمة لإطلاع الباحثين ومطوري الذكاء الاصطناعي وصُناع السياسات والجمهور بصورة أفضل، لكن غياب آلية منهجية للإبلاغ عن هذه النتائج جعل إفصاحاتنا.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ