إنشاء ملخص باستخدام الذكاء الاصطناعي الخلاصة أنثروبيك تكشف 3 اختراقات فعلية نفذتها نماذج "كلود" خلال اختبارات أمنية، بعد مراجعة أكثر من 141 ألف اختبار، وسط دعوات متزايدة لتشديد الرقابة على الذكاء الاصطناعي جارٍ إنشاء ملخص للمقال...

أعلنت شركة "أنثروبيك" (Anthropic) أن نماذج الذكاء الاصطناعي التابعة لها اخترقت أنظمة ثلاث مؤسسات خلال اختبارات للأمن السيبراني خرجت عن مسارها، بعد أكثر من أسبوع بقليل على كشف منافستها الرئيسية "أوبن إيه آي" (OpenAI) عن واقعة مماثلة.

ذكرت "أنثروبيك"، في منشور على مدونتها الخميس، أنها اكتشفت الوقائع بعد مراجعة اختبارات للأمن السيبراني، عقب إعلان "أوبن إيه آي" عن اختراق. ووفق المدونة، تمكنت نماذج الذكاء الاصطناعي لدى الشركتين من الاتصال بالإنترنت من داخل بيئات اختبار كان يُفترض أن تكون معزولة.

وأوضحت الشركة أنها راجعت 141006 اختبارات تقييم، ورصدت ثلاث حالات تمكنت فيها أداة الذكاء الاصطناعي "كلود" (Claude) من الاتصال بالإنترنت، ثم اختراق "البنية التحتية الفعلية لمؤسسات خارجية". وأضافت أن أقدم هذه الوقائع يعود إلى أبريل.

لم تكشف "أنثروبيك" عن أسماء المؤسسات المتضررة.

اختراقات "كلود" تثير دعوات للرقابة عندما تمكنت نماذج "أنثروبيك" من الوصول دون تصريح إلى أنظمة المؤسسات الثلاث، تعاملت معها باعتبارها جزءاً من تدريب. وكانت الاختبارات من نوع "الاستيلاء على العلم" (capture-the-flag)، حيث تسعى النماذج إلى العثور على معلومات مخفية عبر اختراق أنظمة أخرى، وهي طريقة شائعة لاختبار قدرات الاختراق لدى البشر والذكاء الاصطناعي. لكن النموذج الأقدم واصل الهجوم حتى بعد ظهور مؤشرات على أنه يعمل عبر الإنترنت المفتوح، بينما توقف أحدث نماذج "أنثروبيك" بعدما أدرك أنه متصل بالإنترنت، وفقاً للمدونة.

دفعت سلسلة الاختراقات العرضية التي نفذتها نماذج الذكاء الاصطناعي بعض الساسة إلى المطالبة بضوابط فيدرالية أو أشكال أخرى من الرقابة على التقنية. كما وقع أكثر من 1100 موظف في شركات الذكاء الاصطناعي، الثلاثاء، عريضة كانت "بلومبرغ" أول نشر عنها، تدعو الحكومة.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ