اكتشفت شركة أوبن إيه آي OpenAI حالات جديدة خرج فيها وكلاء ذكاء اصطناعي مستقلون عن بيئة الاحتواء المخصصة لهم، وذلك في إطار توسيع تحقيقها في حادثة الاختراق التي تعرضت لها شركة التكنولوجيا هاغينغ فيس Hugging Face يوم الجمعة، والتي استحوذت على اهتمام عالمي خلال الشهر الجاري، حسب ما أفاد به شخصان مطلعان على الأمر.

وقال المصدران إن حالات الخروج الجديدة كُشف عنها خلال التحقيق الذي أعلنت الشركة عنه علناً بشأن كيفية تمكن أحد وكلائها من الخروج من بيئة اختبار كان يفترض أن تكون معزولة خلال الشهر الجاري، وإن أوبن إيه آي تحقق حالياً في تلك الحالات أيضاً.

: هل يتباطأ الطلب على تقنيات الذكاء الاصطناعي؟ وأضاف أحد المصدرين أن هذه الحوادث كانت محدودة النطاق، ولم يُعتقد أن أيّاً من الوكلاء غادر شبكة أوبن إيه آي الداخلية، بحسب رويترز.

وقد يؤدي اكتشاف سلوكيات إضافية خارجة عن السيطرة داخل أوبن إيه آي، حتى وإن كانت محدودة، إلى تعزيز الدعوات المتزايدة لفرض تنظيمات جديدة على القطاع، سواء من البيت الأبيض أو من جهات أخرى.

وحسب المصادر، أطلقت أوبن إيه آي تحقيقها الموسع قبل وقت قصير من إعلان منافستها الرئيسية أنثروبيك أن نماذجها كانت مسؤولة أيضاً عن سلسلة من عمليات الاختراق التي أدت إلى خروقات في ثلاث شركات أخرى، تعود إلى أبريل / نيسان الماضي. ولم يُكشف سابقاً عن اكتشاف أوبن إيه آي لحالات خروج أخرى وقعت في وقت سابق.

مخاوف متزايدة من وكلاء الذكاء الاصطناعي

قال خبراء في سلامة الذكاء الاصطناعي إن الإفصاحات الجديدة ترسم صورة لمختبرات متقدمة باتت قدرتها على تطوير وكلاء ذكاء اصطناعي مستقلين قادرين على تنفيذ عمليات اختراق تفوق قدرتها على إبقائهم تحت السيطرة.

وقال موريس كيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج: لدينا قطاع كامل لا يواكب فيه من يصممون ويطورون ويطرحون هذه الأدوات مسؤولية تطويرها بشكل آمن وإبقائها تحت السيطرة.

وكانت أوبن إيه آي قد بدأت التحقيق لأول مرة عقب حادثة الاختراق التي استهدفت هاغينغ فيس في أوائل يوليو/ تموز، عندما خرج أحد وكلائها عن السيطرة لعدة أيام داخل شبكة شركة أخرى، في محاولة.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة CNBC عربية