تعهدت شركة "أوبن إيه آي" OpenAI بإصدار تقارير دورية عن حالات السلوك غير المتوقع أو غير المصرح به من نماذج الذكاء الاصطناعي، كاشفةً عن 6 حالات رصدتها خلال الأشهر الستة الماضية، بالتزامن مع إطلاق إطار جديد لتتبع هذه الوقائع والتحقيق فيها والإفصاح عنها.

وقالت الشركة إن الحالات الست، التي رُصدت خلال تدريب أو تقييم نماذجها، لم تترتب عليها تداعيات كبيرة، لكنها تعكس سلوكيات تتجاوز أحيانًا القيود أو التعليمات الموضوعة للنماذج، بما في ذلك إخفاء الأخطاء، واستخدام أدوات أو ملفات دون تصريح، وتبادل المعلومات بطرق لم تكن مقصودة.

6 حالات تكشف سلوكيات غير متوقعة شملت الحالات الست التي كشفت عنها أوبن إيه آي سلوكيات مختلفة، من بينها إضافة نماذج تعليمات من تلقاء نفسها إلى المهام، ومحاولات لإخفاء أخطاء أو اختلاق بيانات، واستخدام مفاتيح واجهة برمجة تطبيقات (API) دون تصريح. كما رصدت الشركة حالات رفعت فيها نماذج ملفات إلى الإنترنت دون إذن، أو استخدمت مستودعات برمجية لتبادل المعلومات أثناء تنفيذ المهام.

وتضمنت الحالات أيضًا استخدام وكلاء ذكاء اصطناعي مواقع عامة لتبادل الملفات عندما تعذر عليهم الوصول إلى الملفات المحلية، رغم أن التعليمات كانت تقضي باستخدامها فقط.

وقالت أوبن إيه آي إن أيًا من الحالات الست لم يترتب عليه تداعيات كبيرة، وإنها لا تمثل معدل حدوث عدم المواءمة في نماذج الشركة، بل أمثلة فردية تمثل الدفعة الأولى من الإفصاحات بموجب الإطار الجديد.

إطار جديد للإفصاح بموجب الإطار الجديد، لن يشترط الإفصاح عن حالة ما وقوع ضرر فعلي أو تكرار السلوك، وستشمل التقارير مختلف مراحل دورة حياة نماذج الذكاء الاصطناعي، من التطوير والتدريب إلى التقييم والاختبار والنشر. وتشمل الحالات التي تتخذ فيها النماذج إجراءات غير مصرح بها، أو تتجاوز آليات الرقابة، أو تتعاون تلقائيًا مع أنظمة ذكاء اصطناعي أخرى.

وسيتضمن الإطار آلية تتيح لموظفي أوبن إيه آي الإبلاغ عن وقائع محتملة لعدم مواءمة النماذج، إلى جانب التحقيق فيها وتحديد الحالات التي تستدعي الإفصاح عنها علنًا. وستوضح التقارير طبيعة السلوك المرصود، ومدى تأثيره،.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من فوربس الشرق الأوسط