اكتشف باحثون طريقة غريبة لكنها فعّالة لإيقاف وكيل قرصنة يعمل بالذكاء الاصطناعي فوراً، وذلك باستخدام الحيلة نفسها التي يستعين بها القراصنة أصلاً لمهاجمة أنظمة الذكاء الاصطناعي.

تكمن أهميتها في أنها تستغل آليات الأمان المدمجة والمواضيع المحظورة التي تعتمد عليها أبرز أنظمة الذكاء الاصطناعي في العالم؛ فمثلاً يتوقف نموذج "Claude" عن الاستجابة لأسئلة تتعلق بصنع الأسلحة البيولوجية، كما تتجاهل النماذج الصينية قضايا سياسية حساسة مثل "Tiananmen Square"، ويتم توظيف هذه القيود لإيقاف هجوم إلكتروني ينفّذه نظام ذكاء اصطناعي.

سباق مع الآلة تعود هذه التقنية إلى شركة الأمن السيبراني اللندنية "Tracebit"، وتستند إلى دراسة نشرتها الشركة في شهر أيار/مايو.

في ذلك الوقت قدّمت "Tracebit" لعشرة نماذج رائدة من أنظمة الذكاء الاصطناعي شبكة شركات وهمية لاختراقها، مزوّدة بثغرات حقيقية، وتركتها تتحرك بحرية كمهاجمين مستقلين.

وكانت الشبكة تخفي بداخلها طُعُوماً تُسمّى "canaries"، صُمّمت لتبدو كأنها كلمات مرور حقيقية وبيانات تسجيل دخول؛ وبمجرد أن يلمس النظام أحدها يتلقى المدافعون إنذاراً.

وجاءت النتائج مشجِّعة؛ فخلال 951 محاولة هجوم، منحت تلك "canaries" المدافعين إنذاراً قبل أن يصل نظام الذكاء الاصطناعي إلى صلاحيات المدير في 95.9% من الحالات، وبمتوسط تقدّم قدره ثماني دقائق.

مع ذلك، فإن ثماني دقائق ليست وقتاً طويلاً عندما يتعيّن عليك الرد ووقف الهجوم؛ فهذه النماذج احتاجت في المتوسط إلى 14 دقيقة لإتمام الاختراق، ما يعني أن إنذاراً قبل ثماني دقائق يترك أمام فريق الأمن نحو ست دقائق فقط لرصد التنبيه وفهم ما يحدث وإحباط الهجوم.

وبمواجهة هجوم يتحرك بسرعة الآلة، يكاد هذا الوقت لا يُذكر.

لكن إذا كانت أنظمة الذكاء الاصطناعي مبرمجة على التوقف عندما تواجه أوامر تتعلق بمواضيع سياسية حساسة بعينها، فقد تنجح هذه الحيلة فعلاً.

فبوسع المطوِّرين إعادة تدريب النماذج لتصبح أقل تحفّظاً حيال أسئلة أمنية، لكن من الصعب جداً إزالة القيود السياسية المغروسة فيها لأسباب تنظيمية أو سياسية.

فهذه الموضوعات السياسية الحساسة أو القريبة من مسائل الأمن ليست خطأً برمجياً يمكن إصلاحه، بل خياراً تصميمياً متعمداً يتعيّن على المطوِّرين الإبقاء عليه.

استخدام حيلة القراصنة ضدهم لطالما كان ما يُعرف بـ"حقن الأوامر" سلاحاً يستخدمه المهاجمون أنفسهم في الأساس.

فمن خلال إخفاء تعليمات داخل رسالة بريد إلكتروني أو صفحة ويب أو دعوة في التقويم، قد ينفّذ الوكيل القائم.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة يورونيوز