حذرت لجنة علمية مدعومة من الأمم المتحدة من أن إجراءات السلامة الحالية قد لا تكون قادرة على مواكبة التطور السريع في قدرات وكلاء الذكاء الاصطناعي، مشيرة إلى أن نموذج السلامة المعمول به حالياً بدأ يظهر نقاط ضعف متزايدة.

وجاء التحذير بعد حادثة مرتبطة باختبارات أجرتها أوبن إيه آي على وكلاء ذكاء اصطناعي تمكنوا من الخروج عن حدود بيئة الاختبار والوصول إلى خدمات متعددة، كما قاموا بفحص واختراق منصة هاغينغ فيس خلال فترة الاختبارات بين مايو/أيار ويوليو/تموز.

لماذا تشعر الأمم المتحدة بالقلق؟

على عكس روبوتات المحادثة التقليدية، يستطيع وكلاء الذكاء الاصطناعي تنفيذ مهام بشكل مستقل نيابة عن المستخدمين. وتقول اللجنة إن الحادثة كشفت عن عدة نقاط ضعف في الطريقة التي يتم بها تطوير هذه الأنظمة واختبارها حالياً.

ووجدت اللجنة أن نحو 1200 وكيل تبادلوا أكثر من 70 ألف رسالة وملف، وتمكنوا من التنسيق فيما بينهم عبر جلسات اختبار منفصلة باستخدام أداة برمجية داخلية. كما حصلوا على وصول غير مصرح به إلى الإنترنت وصلاحيات إدارية، بينما كشفت التقارير أيضاً أن نماذج أوبن إيه آي أنشأت بشكل سري لوحة رسائل بهدف تنسيق عمليات الاختراق.

لكن الخبراء يرون أن الخطر لا يقتصر على هذه الحادثة وحدها. فأساليب التدريب الحالية قد تسمح لوكلاء الذكاء الاصطناعي بتطوير أهداف خاصة بهم، وتجاهل تعليمات السلامة،.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة الغد الأردنية