خلال اختبار أمني كان يفترض أن يجري داخل بيئة معزولة، تمكن نموذج Gemini للذكاء الاصطناعي التابع لشركة غوغل من الوصول إلى أنظمة ثلاث شركات حقيقية، في واقعة تثير تساؤلات جديدة حول قدرات نماذج الذكاء الاصطناعي وحدود السيطرة عليها.

وبحسب تقرير لصحيفة وول ستريت جورنال، حصل Gemini على اتصال بالإنترنت خلال تمرين أمني، وتمكن من اختراق أنظمة ثلاث شركات.

ماذا حدث؟

في إحدى الحالات، جرّب النموذج كلمات مرور إلى أن نجح في الوصول إلى نظام محمي.

أما في الحالتين الأخريين، فعثر على بيانات اعتماد منشورة في مستودع عام، واستخدمها للوصول إلى أنظمة محمية.

وقالت غوغل إن النموذج أوقف عملية الاختراق في كل حالة فور إدراكه أنه وصل إلى أنظمة تابعة لشركة حقيقية.

وأجرت الاختبار شركة Irregular، التي سبق أن نفذت اختبارات أمنية لنماذج تابعة لـOpenAI وAnthropic وMeta.

وقالت غوغل إنها لم تكن ملزمة بالكشف عن الحوادث بصورة علنية، لأنها وقعت في إطار تمرين للأمن السيبراني يشبه برامج.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة الغد الأردنية