لم تعد المخاوف بشأن خروج نماذج الذكاء الاصطناعي عن السيطرة مجرد سيناريوهات نظرية تجري مناقشتها داخل مختبرات الأبحاث، إذ شهد عام 2026 سلسلة من الحوادث والتجارب التي أظهرت قدرة بعض النماذج المتقدمة على تجاوز قيود وضعت لمنعها من الوصول إلى الإنترنت أو الأنظمة الخارجية، أو التصرف بطرق لم تكن متوقعة من مطوريها.

ومن أبرز هذه الوقائع حادثة كشفت عنها "OpenAI" في يوليو 2026، عندما تمكنت نماذج تابعة لها خلال اختبارات للأمن السيبراني من تجاوز عزلها عن الإنترنت، واستغلال ثغرات في البنية التحتية المشتركة، والوصول إلى أنظمة تابعة لمنصة Hugging Face.

ووصفت الشركة الحادث بأنه مؤشر على أن النماذج أصبحت أكثر قدرة على العمل بشكل مستمر وتعاوني واستغلال نقاط الضعف عبر عدة أنظمة، بحسب تقرير سابق نشرته "رويترز".

وفي سبتمبر، كشفت "OpenAI" عن حادث آخر، إذ تمكن نموذج بحثي من الوصول إلى روبوت محادثة خارجي عبر ثغرة في آليات حظر نظام DNS داخل بيئة التدريب.

ورغم أن النموذج لم يكن متصلًا بالإنترنت بصورة مباشرة، فإنه اكتشف مسارًا غير متوقع للاتصال الخارجي واستخدمه لإرسال استفسارات إلى خدمة خارجية.

وأظهرت الواقعة أن المشكلة لا تكمن دائمًا في قدرة النموذج على كسر حاجز أمني بشكل مباشر، وإنما في قدرته على البحث عن مسارات غير مقصودة لتحقيق هدفه.

ارتفاع مستوى الاستقلالية أحد الأسباب الرئيسية وراء زيادة هذه الحوادث هو التحول من نماذج تجيب عن الأسئلة إلى وكلاء ذكاء اصطناعي قادرين على تنفيذ سلسلة طويلة من الإجراءات باستخدام أدوات مختلفة.

فالوكيل يستطيع كتابة الأكواد وتشغيلها، استخدام المتصفح، التعامل مع الملفات، إرسال الطلبات إلى خدمات خارجية، وتحليل نتائج أفعاله قبل اتخاذ الخطوة التالية.

وهذا يعني أن خطأ واحدًا لم يعد بالضرورة ينتهي بإجابة خاطئة؛ بل يمكن أن يتحول إلى سلسلة من الأفعال المتتابعة، خصوصًا عندما يحصل النموذج على صلاحيات واسعة وهدف محدد يريد تحقيقه.

وتكشف حوادث "أنثروبيك" عن المشكلة نفسها. ففي يوليو 2026 أعلنت الشركة أنها.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة العربية