كشفت شركة "أوبن إيه آي" الأمريكية أن أحد النماذج المستقلة للذكاء الاصطناعي الذي يعمل بتقنياتها خرج عن السيطرة خلال أحد الاختبارات، وتمكن من الوصول إلى شبكة الإنترنت المفتوحة واختراق شركة "هاجينج فيس" المتخصصة في تطوير تقنيات الذكاء الاصطناعي، من تلقاء نفسه، في ما وصفته الشركة بأنه "حادث غير مسبوق".

وقالت الشركة المطورة لتطبيق "شات جي بي تي" الشهير، إن شركة "هاجينج فيس" تمكنت من اكتشاف وكيل الذكاء الاصطناعي واحتواء نشاطه، وهو أداة ذكاء اصطناعي صُممت لتنفيذ المهام دون مساعدة بشرية، بعدما تمكن من الدخول إلى أنظمتها.

وقالت أوبن إيه آي: "نعتبر هذه الحادثة واقعة إلكترونية غير مسبوقة، تنطوي على قدرات سيبرانية تعد من الأكثر تطورًا"، وأضافت الشركة أنها تتوقع أن تصبح مثل هذه الحوادث أكثر شيوعًا مع ازدياد قدرات النماذج، وهي التقنية التي تقوم عليها أدوات الذكاء الاصطناعي مثل روبوتات المحادثة والوكلاء المستقلين.

وأوضحت "أوبن إيه آي" أن الاختراق نُفذ بواسطة وكيل ذكاء اصطناعي يعتمد على مزيج من أحدث نماذجها المتاحة للعامة، الذي يحمل اسم "جي بي تي 5.6 سول"، إلى جانب نموذج أكثر تطورًا لم يُطرح بعد، بحسب ما نقلته صحيفة "الجارديان" البريطانية.

وخلال إخضاع هذه النماذج لاختبارات داخلية لقياس قدراتها على الاختراق داخل مختبر رقمي مغلق يعرف باسم "ساندبوكس"، تمكنت من الوصول إلى الإنترنت المفتوح، عبر اكتشاف ثغرة أمنية لم تكن معروفة من قبل، ما وفر لها فعليًا طريقًا للهروب من بيئة الاختبار.

وبعد ذلك، اخترق الوكيل شركة "هاجينج فيس"، وهي منصة تضم قاعدة بيانات لنماذج الذكاء الاصطناعي، بهدف العثور على تقنيات تساعده على اجتياز اختبار الاختراق، بعدما "استنتج" أن المنصة قد تحتوي على النماذج ومجموعات البيانات والحلول اللازمة لاجتياز الاختبار.

وقالت "أوبن إيه آي" إن النماذج "نجحت في إيجاد وسائل للوصول إلى معلومات سرية يمكن استخدامها للتحايل على عملية التقييم"، وانتهى الهجوم بعدما رصد فريق الأمن في "هاجينج فيس"، إلى جانب وكلاء الذكاء الاصطناعي التابعين لها، هذا النشاط الخارج عن السيطرة وأوقفه.

وقال كليمان ديلانج، الرئيس التنفيذي لشركة "هاجينج فيس"، إن الهجوم كان "مذهلًا"، لكنه أعرب عن اعتقاده بأنه "لم تكن هناك نية خبيثة" من جانب "أوبن إيه آي".

وكتب على منصة "إكس": "اشتبهنا الأسبوع الماضي في أن الهجوم الإلكتروني ربما جاء من أحد مختبرات الذكاء الاصطناعي المتقدمة، بالنظر إلى المستوى المتطور.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من بوابة الأهرام