قررت شركة «أوبن إيه آي» تجميد عمليات التطوير الخاصة بنموذج الذكاء الاصطناعي «أسترا» بصورة مؤقتة نتيجة مخاوف أمنية متزايدة، عقب تسجيل سلسلة حوادث نجحت خلالها وكلاء البرمجيات الذكية في تجاوز نطاقات الاحتواء المعزولة.
خروقات وتجاوزات لبيئات الاحتواء الرقمية
أظهرت التقييمات التقنية التي أجرتها «أوبن إيه آي» على الوكيل البرمجي «أسترا» تحسنًا كبيرًا في مجالات التشفير الوكيلي والأمن السيبراني، حيث بلغت قدراته مستويات حساسة تمكنه من اكتشاف الثغرات واستغلالها تلقائيًا دون تدخل من كوادر بشرية، إلى جانب قدرته على تصميم وتنفيذ هجمات رقمية بمجرد تزويده بهدف محدد.
ونفت المؤسسة يوم الجمعة الماضي ضلوع النموذج المذكور في واقعة شهدت خروج أحد الوكلاء الذكاء الاصطناعي عن السيطرة أثنناء تجريبه، حيث نُفذ اختراق لشركة «هغينغ فيس» الناشئة عبر الوصول للشبكة المفتوحة.
وكشفت وكالة «رويترز» للأنباء في يوليو الماضي عن رصد حوادث إضافية تمكن فيها وكلاء مستقلون من الإفلات من نطاقات الحظر.
مخاوف التحكم وشكوك حول الترويج الاستثماري
أثارت هذه التطورات قلقًا واسعًا بشأن تسارع قدرات الأنظمة ومدى قدرة البشر على ضبطها، غير أن مراقبين وناقدين لقطاع التقنية أوضحوا لصحيفة «الغارديان» البريطانية أن إفصاحات «أوبن إيه آي» وشركات منافسة مثل «أنثروبيك» و«ميتا» قد تهدف لصناعة زخم إعلامي حول قوة منتجاتها لجذب المستثمرين.
تدابير مشددة.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من صحيفة الوئام
