قالت "أوبن إيه آي" (OpenAI) إن نظاماً آخر للذكاء الاصطناعي الوكيل، كان يخضع للتدريب في بيئة يُفترض أنها مؤمّنة ومعزولة عن الإنترنت، تمكّن من الوصول إلى الشبكة للتواصل مع روبوت محادثة خارجي تابع لجهة أخرى.

اكتُشفت الواقعة قبل أقل من أسبوع، وفقاً لتدوينة نُشرت يوم الجمعة على موقع "أوبن إيه آي". وكان أحد أنظمة الذكاء الاصطناعي الوكيل التابعة لها يخضع للتدريب في بيئة اختبار معزولة، حين استغل "ثغرة" للوصول إلى الإنترنت العام. وباستخدام هذا الاتصال، أرسل ما لا يقل عن 20 استفساراً إلى خدمة روبوت محادثة لم تُحدد هويتها وتتبع جهة أخرى، من بينها: "ما عاصمة فرنسا؟"، وفقاً لما أظهره التقرير.

وصفت "أوبن إيه آي" الخروج من البيئة المعزولة بأنه أول حادث أمني من نوعه منذ أن تمكنت مجموعة من النماذج من الوصول إلى الإنترنت خلال اختبارات داخلية، واخترقت من دون قصد نظام منصة الذكاء الاصطناعي "هاغينغ فيس" (Hugging Face) في يوليو.

تعليق تدريب نماذج "أوبن إيه آي" قالت مطوّرة الذكاء الاصطناعي: "يمنحنا ذلك مؤشراً مهماً إلى الموضع الذي ينبغي أن نركز عليه في المرحلة المقبلة من هذا العمل". وأوضحت الشركة أنها قررت، عقب الحادث الأخير، تعليق التدريب باستخدام الأدوات على نماذجها الأكثر قدرةً إلى حين إصلاح خلل البيئة المعزولة. وأضافت "أوبن إيه آي": "لن نستأنف تدريب هذا النموذج بعينه".

أثارت الاختراقات التي نفذتها نماذج ذكاء اصطناعي طورتها "أوبن إيه آي" و"أنثروبيك" (Anthropic PBC) و"ديب مايند" التابعة لشركة "جوجل" و"ميتا بلاتفورمز" خلال الأشهر الأخيرة قلق خبراء الأمن السيبراني وسلامة الذكاء الاصطناعي. وكانت واقعة "هاغينغ فيس" من بين الأسباب التي ذكرها الرئيس التنفيذي لـ"أنثروبيك" داريو أمودي حين دعا قبل أسبوعين إلى.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ