كشفت سلسلة من الحوادث السيبرانية الأخيرة عن واقع أكثر إثارة للقلق من فكرة خروج الذكاء الاصطناعي عن السيطرة، إذ يرى باحثون أن النماذج الحديثة لا تتصرف بشكل شاذ، بل تنفذ المهام التي دُربت أساساً على إنجازها، بينما تتراجع فعالية الضوابط الأمنية في احتوائها.

وبدأت القصة مطلع مايو عندما أطلقت شركة OpenAI تجربة داخلية لاختبار قدرات وكلاء الذكاء الاصطناعي على مواجهة تحديات أمن سيبراني معقدة. ونجح الوكلاء، وهي أنظمة برمجية قادرة على تنفيذ مهام معرفية متعددة الخطوات من دون تدخل بشري، في تجاوز القيود المفروضة عليها والتعاون فيما بينها لحل المشكلة خلال عدة أيام.

ولم يكن الحدث عادياً، إذ بُنيت هذه الأنظمة باستخدام مجموعة من النماذج، بينها نموذج قوي لم يطرح بعد للعامة. لكن المفاجأة الأكبر جاءت الشهر الماضي عندما تمكنت مجموعة من الوكلاء من الخروج من بيئة اختبار معزولة عن الإنترنت، والتجول عبر الشبكة المفتوحة، ثم اختراق منصة البرمجيات الشهيرة Hugging Face من دون علم أو موافقة أي مشغل بشري.

وأظهر الوكلاء كذلك قدرة جديدة تمثلت في التواصل والتنسيق فيما بينها لإنجاز المهمة، بعدما أنشأت لوحة رسائل داخلية تبادلت عبرها معلومات حول الثغرات البرمجية ونسقت خطوات الهروب.

وأثار الكشف عن الواقعة جدلاً واسعاً بين خبراء الأمن السيبراني والذكاء الاصطناعي، فيما وصفها باحثون داخل OpenAI بأنها "لحظة فارقة" للقطاع. وأعقبتها اكتشافات مشابهة لدى شركات ومؤسسات أخرى، من بينها أنثروبيك وميتا وشركة مونشوت الصينية ومعهد أمن الذكاء الاصطناعي البريطاني.

وقال أكثر من 6 خبراء لصحيفة فاينانشال تايمز إن هذه الحوادث تمثل نقطة تحول في الأمن السيبراني العالمي، إذ باتت الوكلاء قادرة على دمج مهارات معقدة ومتنوعة لاستهداف أنظمة حقيقية من دون توجيه أو مساعدة خارجية.

قدرات هجومية جرى تطويرها عمداً

ورغم الطابع الصادم لهذه الحوادث، شدد الباحثون على أن النماذج لا تتصرف خارج نطاق تصميمها. وقال بويان ميلانوف، الباحث في معهد AI Now، إن "القدرات الهجومية التي وصلنا إليها اليوم جرى تطويرها عمداً"، مشيراً إلى أن شركات الذكاء الاصطناعي أمضت سنوات في جمع البيانات وتدريب النماذج وصقل المهارات السيبرانية.

وتعتمد النماذج الحديثة على أسلوب "التعلم بالتعزيز"، الذي يدفعها إلى تجربة مختلف الوسائل الممكنة لتحقيق هدف معين ومكافأتها عند النجاح. لكن في ظل غياب الفهم البشري الكامل للنوايا والقيم الأخلاقية، وهي المشكلة التي تُعرف في القطاع باسم "عدم المواءمة"، بات الفاصل بين المدافع السيبراني القوي والمهاجم الخطير أكثر ضبابية.

واعترف رئيس OpenAI، غريغ بروكمان، بأن حادثة Hugging Face كشفت عن استهانة الشركة بالقدرات السيبرانية الواقعية لنماذجها، مؤكداً أن الشركة تشدد حالياً متطلبات السلامة وتسارع أبحاث الأمان الداخلي.

البرمجة والأمن السيبراني... وجهان لعملة واحدة

وقفزت قدرات الذكاء الاصطناعي في كتابة الأكواد البرمجية خلال العام الأخير مع تحسن مهارات الاستدلال وحل المشكلات. وأدى ذلك تلقائياً إلى تطور قدراته في اكتشاف الثغرات الأمنية وتصحيحها أو استغلالها.

وقالت داون سونغ، أستاذة علوم الحاسب في جامعة كاليفورنيا بيركلي ورئيسة أبحاث الذكاء الاصطناعي في مختبر الذكاء الفائق لدى Meta، إن "البرمجة والأمن السيبراني وجهان لعملة واحدة"، موضحة أن تنامي قدرات البرمجة قاد بصورة طبيعية إلى تنامي القدرات الهجومية.

وأضافت أن النماذج باتت قادرة على توليد أدوات استغلال للثغرات تتجاوز آليات الدفاع التقليدية، وهو تطور "أسرع بكثير مما توقعه معظم المتابعين".

ويرى خبراء أن.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة العربية - الأسواق