أحمد بانافع

استاذ الذكاء الاصطناعي والتحول الرقمي من جامعة San Jose الحكومية في كاليفورنيا

بينما تتسابق الشركات والحكومات لاستثمار مليارات الدولارات في الذكاء الاصطناعي، يتركز الحديث غالباً حول قدرات النماذج الجديدة وسرعة تطورها. لكن خلف هذا التقدم المتسارع يبرز تهديد أقل شهرة وأكثر خطورة، يُعرف باسم "تسميم الذكاء الاصطناعي" أو AI Poisoning.

على عكس الهجمات الإلكترونية التقليدية التي تستهدف الخوادم أو الشبكات، يهاجم هذا النوع من الهجمات المصدر الأهم للذكاء الاصطناعي: البيانات. فبدلاً من اختراق النظام مباشرة، يقوم المهاجمون بإدخال معلومات مضللة أو معدلة إلى البيانات التي يتعلم منها النموذج، ما يدفعه إلى اتخاذ قرارات خاطئة مع استمرار ظهوره وكأنه يعمل بشكل طبيعي.

يمكن تشبيه الأمر بطالب يدرس من كتاب تم التلاعب بمحتواه سراً. سيحفظ المعلومات الخاطئة ويستخدمها لاحقاً دون أن يدرك أنها غير صحيحة. الأمر نفسه يحدث مع أنظمة الذكاء الاصطناعي عندما تتعلم من بيانات ملوثة.

وتتعدد أساليب التسميم. فقد يتم التلاعب ببيانات التدريب نفسها، أو تغيير التصنيفات المرتبطة بالصور والملفات، أو زرع "أبواب خلفية" تجعل النموذج يتصرف بشكل طبيعي في معظم الحالات لكنه يفشل عند ظهور إشارة أو نمط محدد. كما يمكن استغلال أنظمة التغذية الراجعة عبر حملات منظمة تدفع النموذج إلى تعزيز معلومات مضللة بمرور الوقت.

وتزداد خطورة هذه الهجمات مع انتشار الأنظمة المعتمدة على الذكاء الاصطناعي في قطاعات حساسة. ففي الرعاية.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة CNBC عربية