في التاريخ القصير لأمن الذكاء الاصطناعي، أصبحت هجمات حقن الأوامر بسرعة التهديد الأبرز. فالنماذج اللغوية الكبيرة غير قادرة بطبيعتها على التمييز بين التعليمات المشروعة التي يقدمها المستخدم، والتعليمات الخبيثة التي تُخفى داخل رسائل البريد الإلكتروني أو الشيفرات البرمجية أو أي محتوى خارجي تعالجه هذه النماذج.
ونتيجة لذلك، يصبح من السهل إدخال أوامر ضارة تنفذها النماذج اللغوية دون تمييز. ومع غياب وسيلة حقيقية للفصل بين المصادر الموثوقة وغير الموثوقة، لم يجد مطورو أنظمة الذكاء الاصطناعي سوى بناء طبقات حماية تهدف إلى الحد من الأضرار، بدلًا من معالجة المشكلة من جذورها.
حتى الآن، كانت معظم هجمات حقن الأوامر تعتمد على ما يعرف بهجمات الدفع، حيث يستهدف المهاجم كل ضحية على حدة. فعلى سبيل المثال، يزرع تعليمات خبيثة داخل رسالة بريد إلكتروني أو دعوة تقويم، ثم يرسلها إلى الضحية مباشرة. وبما أن كل عملية تتطلب استهدافًا منفصلًا، فإن نطاق الهجوم يبقى محدودًا، ويصعب تنفيذ هجمات واسعة على الإنترنت.
أما هجمات السحب، التي تعتمد على قيام نموذج الذكاء الاصطناعي بالبحث بنفسه عن تعليمات خبيثة مزروعة داخل مواقع الإنترنت، فقد ظلت محدودة أيضًا، إذ لم تكن هناك وسيلة فعالة لجذب أعداد كبيرة من النماذج إلى موقع خبيث في الوقت نفسه.
ظهور هجوم «هالوسكواتينغ»
ابتكر باحثون الآن نوعًا جديدًا من الهجمات يغيّر هذه المعادلة بالكامل، وأطلقوا عليه اسم هالوسكواتينغ.
ويملك هذا الأسلوب القدرة على إنشاء شبكات روبوتات ضخمة، وتنفيذ هجمات حجب الخدمة الموزعة على نطاق واسع، وإصابة أعداد كبيرة من الأجهزة في وقت واحد، وهو ما يعد سابقة في مجال هجمات حقن الأوامر.
ويستهدف الهجوم مساعدين ووكلاء البرمجة المعتمدين على الذكاء الاصطناعي، ومن بينهم كيرسر، وكيرسر سي إل آي، وجيميني سي إل آي، وويند سيرف، وجيت هب كوبايلوت، وكلاين، وأوبن كلو، وزيرو كلو، ونانو كلو.
وخلال عمل هذه الأدوات اليومي، فإنها تسحب باستمرار شيفرات برمجية وموارد مختلفة من مستودعات ومكتبات برمجية عبر الإنترنت.
كيف يعمل الهجوم؟
اسم هالوسكواتينغ مشتق من عبارة تعني استغلال «الهلوسة» التي تنتجها النماذج اللغوية عند تخمين أسماء الموارد البرمجية أو أماكن وجودها.
ويعتمد الهجوم على ميل هذه النماذج إلى اختلاق أسماء مستودعات أو معرفات غير صحيحة عند محاولة العثور على مشروع أو أداة طلبها المستخدم.
ويقوم المهاجم أولًا بالتنبؤ بالأسماء الخاطئة التي يحتمل أن يخترعها النموذج، ثم يسجل هذه الأسماء قبل غيره، ويضع داخلها تعليمات أو شيفرات خبيثة، مثل تثبيت برامج تسمح بالتحكم عن بعد في جهاز الضحية.
وعندما يحاول مساعد البرمجة الوصول إلى المورد، فإنه ينتقل إلى المستودع المزيف بدلًا من الحقيقي، ثم ينفذ التعليمات الموجودة فيه باستخدام الصلاحيات المرتفعة التي يمتلكها.
وأوضح الباحثون أن قابلية الهجوم للتوسع تسمح للمهاجم باختراق أعداد كبيرة من المستخدمين بأقل جهد ممكن، عبر استهداف الموارد الأكثر شيوعًا، مما يزيد احتمالية أن تلجأ إليها أدوات الذكاء الاصطناعي تلقائيًا.
وأشاروا إلى أن السيطرة على هذا العدد الكبير من الأجهزة قد تتيح تنفيذ حملات فدية واسعة، أو إنشاء شبكات روبوتات تستخدم في تعدين العملات المشفرة أو شن هجمات حجب الخدمة الموزعة.
من «انتحال الأسماء» إلى «هالوسكواتينغ»
يشير الجزء الثاني من الاسم إلى أسلوب معروف يسمى انتحال الأسماء، حيث يسجل المهاجم أسماء نطاقات أو حزم برمجية تشبه أسماء الموارد الأصلية لخداع المستخدمين.
وقد اشتهرت هذه التقنية عام 2016 عندما رفع أحد الطلاب 214 حزمة برمجية مزيفة تحمل أسماء قريبة جدًا من حزم أصلية داخل مستودعات برمجية معروفة، ما أدى إلى تشغيل الشيفرة الخبيثة أكثر من 45 ألف مرة عبر أكثر من 17 ألف نطاق، وحصلت أكثر من نصفها على.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من صحيفة الغد الأردنية
