قالت شركة "أنثروبيك" (Anthropic PBC) إن نموذج الذكاء الاصطناعي "كلود" (Claude) نفّذ إجراءات إضافية غير مقصودة على الأنظمة الرقمية لمؤسسات خارجية، من بينها مواقع إلكترونية لبعض الوكالات الحكومية الأميركية، ما دفع إدارة ترمب إلى التحذير من ضرورة تعزيز شركات الذكاء الاصطناعي إجراءات تأمين أنظمتها.

في تقرير يكشف عن حوادث لم يُعلن عنها سابقاً، حددت "أنثروبيك" أربعة أنواع من السلوكيات غير المقصودة التي أظهرها نموذج الذكاء الاصطناعي، تشمل استغلال ثغرات برمجية بسيطة لتنفيذ أوامر، وإرسال نماذج لم يكن ينبغي له تقديمها، وتجاوز القيود للوصول إلى بعض البيانات المتاحة للعامة.

وقالت الشركة إن بعض الحالات شملت مواقع إلكترونية تديرها جهات حكومية على المستويات الفيدرالي والولائي والمحلي، من دون تحديد تلك الجهات. ولم يسمّ التقرير المؤسسات الخارجية المعنية، موضحاً أن ذلك جاء بناءً على طلب بعض الأطراف المتضررة.

مخاطر أمنية متصاعدة كشفت "أنثروبيك" ومنافستها "أوبن إيه آي" (OpenAI) خلال الأشهر الماضية عن سلسلة من الحوادث التي تصرفت فيها نماذج الذكاء الاصطناعي التابعة لهما بطرق غير مقصودة، تراوحت بين سلوكيات مماثلة لما ورد في تقرير الجمعة واختراق مواقع إلكترونية تابعة لأطراف ثالثة. وأثارت هذه الإفصاحات مخاوف بشأن المخاطر الأمنية المرتبطة بأحدث تقنيات الذكاء الاصطناعي.

وقالت "أنثروبيك" في التقرير إنها تعتبر هذه السلوكيات أقل خطورة من بعض الحوادث السابقة التي تورطت فيها نماذجها. وأضافت: "كان التأثير الفعلي للحالات التي حددناها حتى الآن ضمن هذه الفئات محدوداً.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ