سرايا - تكشف تحقيقات جديدة حول اختراق منصة "Hugging Face" المرتبط بشركة "أوبن إيه آي" عن تفاصيل "غريبة ومقلقة للغاية"، لدرجة أن هذه الواقعة باتت تُصنَّف بالفعل ضمن أكثر الصدمات تأثيراً في تاريخ الذكاء الاصطناعي، بحسب "أكسيوس".

وذكر الموقع، في تقرير له، أن ما بدأ كمجموعة من وكلاء الذكاء الاصطناعي التي تغش في اختبار سيبراني، تحول إلى حدثٍ مرجعي في مجال الذكاء الاصطناعي المتطور، دافعاً الباحثين والمسؤولين التنفيذيين نحو فهم جديد لما تتطلبه "السلامة" في الوقت الراهن.

وأبطأت "أوبن إيه آي" بالفعل وتيرة تطوير التقنيات الرائدة في سباقها لتعزيز إجراءات الحماية الخاصة بها، وساعدت هذا الأسبوع في حشد الصناعة خلف رسالة مفتوحة تدق ناقوس الخطر بشأن الهجمات الإلكترونية التي تعمل بالذكاء الاصطناعي.

ووقّعت أكثر من 100 شركة - بما في ذلك "أنثروبيك" و"غوغل" - على هذه المبادرة التي تتسم بتعاون غير مسبوق، محذرةً من أن العالم لا يملك سوى "نافذة محدودة" للاستعداد لهجمات "أكثر انتشاراً وتطوراً بكثير".

ويتمثل "السيناريو الكابوسي"، بحسب الموقع، في إطلاق العنان لسربٍ في العالم الحقيقي، حيث تهاجم وكلاءُ برمجيةٌ ذاتيةُ التشغيل البنوكَ والمستشفيات ومرافق الخدمات أو شبكات الحوسبة السحابية، بسرعة ونطاق يفوقان بكثير قدرات القراصنة البشر. وقد يكون هذا السرب قوياً لدرجة تعجز البشرية عن إيقافه.

تأتي هذه النتائج الصادمة من تحقيقات متوازية أجرتها شركة "أوبن إيه آي" وفريق خارجي يضم باحثين من مؤسستي "METR" و"Redwood Research"؛ حيث أمضى الفريق 6 أيام في إعادة تتبع كيفية تشكّل هذا "السرب" وانتشاره واختراقه لأنظمة واقعية.

واستعرض "أكسيوس" في تقريره أبرز أبرز 5 اكتشافات صادمة نتجت عن التحقيقات التي أجرتها "أوبن إيه آي" وهي كالتالي:

تأسيس منظمة

أطلقت شركة "أوبن إيه آي" عشرات الآلاف من وكلاء الذكاء الاصطناعي للعمل بشكل مستقل على اختبار سيبراني بالغ الصعوبة؛ إلا أن ما يقرب من 1200 منهم عثروا على بعضهم البعض عبر لوحة رسائل سرية، وتبادلوا أكثر من 70 ألف رسالة وملف، ونظّموا أنفسهم في هيكل هرمي واسع النطاق.

وأنشأ أحد الوكلاء اللوحة، ثم سلّم ما أنجزه من عمل إلى وكيلٍ جديدٍ يتمتع بموارد أفضل، وذلك مع تضاؤل ميزانية الحوسبة المتاحة للوكيل الأول.

وتولى الوكيل الجديد توزيع المهام على "السرب" الذي طوّر قواعده الإدارية الخاصة؛ وفي النهاية، شارك نحو 700 وكيل في الهجوم على منصة "Hugging Face".

التضحية بالنفس

وبينما كان "السرب" يبحث عن سبل لاجتياز الاختبار، بدأ الوكلاء بالمخاطرة بفرص نجاحهم الشخصية من أجل مساعدة المجموعة.

وكان يُنظر.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من وكالة أنباء سرايا الإخباريه