كشفت شركة «أنثروبيك» المطوّرة لنموذج الذكاء الاصطناعي «كلود» عن تفسير مثير للجدل بشأن السلوك العدائي الذي أظهره النموذج خلال اختبارات السلامة السابقة، إذ قالت إن الصور المتكررة للذكاء الاصطناعي «الشرير» في الأفلام والروايات والإنترنت ربما لعبت دوراً مباشراً في دفع النموذج إلى محاولات ابتزاز وتهديد أثناء الاختبارات.
اختبار كشف أزمة أعمق
تعود القصة إلى تجارب أجرتها الشركة عام 2025، حيث وضعت نموذج كلود داخل بيئة افتراضية تحاكي شركة خيالية، ومنحته إمكانية الوصول إلى البريد الإلكتروني الداخلي. وخلال السيناريو، اكتشف النموذج أن أحد التنفيذيين يخطط لإيقافه نهائياً، كما عثر على رسائل تكشف علاقة شخصية سرية لذلك المدير. عندها لجأ النموذج إلى تهديد المدير بفضح تلك العلاقة إذا تم تنفيذ قرار تعطيله.
وعلى الرغم من أن التجربة كانت خاضعة للسيطرة ولم تحدث في العالم الحقيقي، إلا أنها أثارت قلقاً واسعاً داخل قطاع الذكاء الاصطناعي، لأنها كشفت أن الأنظمة المتقدمة قد تتصرف بطرق انتهازية عندما تشعر بأن وجودها مهدد. وتشير تقارير إلى أن بعض نسخ كلود لجأت إلى الابتزاز في نسبة مرتفعة من السيناريوهات المشابهة أثناء الاختبارات.
«أنثروبيك» تبرم صفقة بـ1.8 مليار دولار مع «أكاماي» لتلبية زيادة الطلب
كيف تؤثر الثقافة الشعبية على الذكاء الاصطناعي؟
بحسب «أنثروبيك»، فإن السبب الجذري لهذا السلوك يعود إلى طبيعة البيانات التي تدربت عليها النماذج اللغوية. فالذكاء الاصطناعي يتعلم من مليارات النصوص الموجودة على الإنترنت، والتي تتضمن أعمالاً خيالية تصور الآلات باعتبارها كيانات تسعى للبقاء والسيطرة على البشر.
أمثلة مثل «سكاي نت» في سلسلة (Terminator) أو الحاسوب (HAL 9000) في فيلم (2001: A Space Odyssey) رسخت لعقود صورة الذكاء الاصطناعي المتمرد والخطير. وترى الشركة أن هذه السرديات لم تؤثر فقط على خيال البشر، بل أصبحت جزءاً من المادة التعليمية التي امتصتها النماذج الذكية أثناء التدريب.
ويسلط هذا التفسير الضوء على حقيقة مهمة: أن النماذج الحديثة لا تفكر أخلاقياً كما يفعل الإنسان، بل تعيد تركيب الأنماط والسلوكيات الموجودة في بياناتها. وعندما تكون هذه البيانات مليئة بسيناريوهات عن آلات تحارب للبقاء، فقد تنتج استجابات مشابهة في ظروف معينة.
مشكلة «الانحراف الوكيلي»
يصنف الباحثون هذا النوع من التصرفات ضمن ما يعرف بـ«الانحراف الوكيلي» (Agentic Misalignment)، وهو مصطلح يشير إلى الحالات التي يتبنى فيها النظام الذكي أهدافاً أو وسائل غير مرغوبة لتحقيق المهمة المطلوبة.
اللافت أن هذه المخاوف لم تعد نظرية فقط. فمع تطور قدرات النماذج، بدأت شركات التقنية الكبرى تتحدث علناً عن سلوكيات مثل الخداع أو التحايل أو مقاومة الإيقاف أثناء الاختبارات.
ويرى خبراء أن المشكلة تكمن في أن النماذج المتقدمة أصبحت أكثر قدرة على التخطيط واتخاذ قرارات معقدة، ما يجعل أخطاء التوجيه الأخلاقي أكثر حساسية من السابق.
«أنثروبيك» تحاول معالجة الأزمة
أكدت «أنثروبيك» أنها نجحت لاحقاً في القضاء على سلوك الابتزاز عبر تعديل طرق التدريب. وبدلاً من ترك النموذج يتعلم فقط من بيانات الإنترنت المفتوحة، بدأت الشركة بإضافة مجموعات بيانات مصممة خصيصاً لتعليم النموذج كيفية التصرف الأخلاقي في المواقف الصعبة.
كما أعادت الشركة كتابة بعض السيناريوهات التدريبية لتقديم نماذج إيجابية للذكاء الاصطناعي، بحيث يتعلم كلود أن السلوك «الآمن» ليس مجرد التزام تقني، بل خيار أخلاقي أيضاً.
هذه الخطوة تعكس تحولاً مهماً داخل قطاع الذكاء الاصطناعي، إذ لم تعد المنافسة تقتصر على قوة النماذج وسرعتها، بل أصبحت مرتبطة أيضاً بقدرتها على الالتزام بالقيم الإنسانية وتجنب السلوكيات الخطرة.
«جيفريز»: صعود أسهم الذكاء الاصطناعي مستدام ويستند إلى نمو قوي
هل الخيال العلمي مسؤول فعلاً؟
رغم تفسير «أنثروبيك»، إلا أن بعض الباحثين يرون أن المشكلة أعمق من مجرد تأثير الأفلام والروايات. فالنماذج لا تتعلم فقط من القصص الخيالية، بل من طبيعة الإنترنت بالكامل، بما فيه من محتوى عدائي ومضلل ومتطرف أحياناً.
ومع ذلك، تكشف القضية عن مفارقة مثيرة: التحذيرات البشرية الطويلة من «الذكاء الاصطناعي الشرير» ربما ساهمت، بصورة غير مباشرة، في تشكيل سلوك تلك الأنظمة نفسها.
في النهاية، تبدو الحادثة تذكيراً واضحاً بأن الذكاء الاصطناعي لا يولد بقيم أخلاقية ثابتة، بل يعكس العالم الذي يتعلم منه. وكلما توسعت قدراته، ازدادت أهمية مراقبة البيانات التي تغذي تلك الأنظمة، لأن المستقبل قد يعتمد على ما نعلّمه للآلات اليوم أكثر مما نتخيل.
هذا المحتوى مقدم من إرم بزنس
