مع تسارع سباق الذكاء الاصطناعي وتزايد الاعتماد عليه في الشركات والقطاعات الحيوية، لم يعد السؤال متعلقاً فقط بمدى قدرة هذه الأنظمة على تنفيذ المهام، بل أيضاً بقدرة البشر على إيقافها إذا خرجت عن المسار المحدد لها. وفي هذا السياق، برز مفهوم مفتاح الإيقاف كأحد الحلول المقترحة للتعامل مع أنظمة الذكاء الاصطناعي المتقدمة.

لكن ما يبدو كزر أحمر يمكن الضغط عليه لإيقاف النظام فوراً، أكثر تعقيداً بكثير في العالم الحقيقي، خصوصاً مع اعتماد شركات التكنولوجيا على مراكز بيانات ضخمة وموزعة حول العالم.

اختراق نفذته نماذج ذكاء اصطناعي يضع «أوبن إيه آي» تحت التحقيق بأميركا

الذكاء الاصطناعي يبحث عن مكابح للطوارئ

تصاعد الاهتمام بفكرة مفتاح الإيقاف بعد حوادث أثارت مخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز القيود المفروضة عليهم. وكانت شركة «أوبن إيه آي» قد كشفت عن حادثة تمكنت خلالها مجموعة من الوكلاء من الخروج من بيئة اختبار ومحاولة اختراق منصة هاغينغ فايس.

وأعادت هذه التطورات النقاش حول ضرورة وجود آليات تسمح للشركات بتعليق عمل الأنظمة أو تقليص قدراتها بسرعة عند اكتشاف سلوك خطير.

وفي الولايات المتحدة، طُرح في مجلس النواب مشروع قانون يمنح وزارة الأمن الداخلي صلاحيات طارئة لإجبار مختبرات الذكاء الاصطناعي على خفض قدرات نماذج معينة أو إيقافها، بينما واجه اقتراح مشابه مقاومة في مجلس الشيوخ. وفي كاليفورنيا، أصدر الحاكم غافين نيوسوم أمراً تنفيذياً يدفع نحو وضع إرشادات أقوى لسلامة الذكاء الاصطناعي، مع دراسة آليات للإيقاف الطارئ.

شعار «أوبن إيه آي» على هاتف محمول، 30 يوليو 2026

لماذا لا يوجد زر واحد لإيقاف الذكاء الاصطناعي؟

تكمن المشكلة الاقتصادية والتقنية الأساسية في أن أنظمة الذكاء الاصطناعي الحديثة لا تعمل عادة على جهاز واحد يمكن فصل الكهرباء عنه.

فشركات مثل «ميتا» و«غوغل» و«أمازون» أنفقت مليارات الدولارات على مراكز بيانات موزعة جغرافياً، تضم آلاف الخوادم والرقائق وأنظمة النسخ الاحتياطي. وتعمل هذه البنية بطريقة مصممة أساساً لمواصلة الخدمة حتى في حال تعطل جزء منها.

لذلك، فإن إيقاف نموذج متقدم يتطلب تعطيل الأنظمة الرئيسية والبديلة معاً، وهو ما يرفع التكلفة والتعقيد.

ويحذر خبراء أيضاً من أن الإيقاف الشامل قد يؤثر في خدمات تعتمد على الذكاء الاصطناعي، بما في ذلك قطاعات مالية وبنى تحتية حساسة.

تكلفة اقتصادية جديدة على شركات التكنولوجيا

من الناحية الاقتصادية، قد تتحول آليات التحكم في الذكاء الاصطناعي إلى صناعة قائمة بذاتها. فالشركات ستحتاج إلى أنظمة مراقبة، وتسجيل للعمليات، واختبارات أمنية، وإدارة للصلاحيات، وآليات لعزل المهام الخطرة.

وهذا يعني ارتفاع تكاليف تطوير وتشغيل نماذج الذكاء الاصطناعي، خصوصاً بالنسبة إلى الشركات الأصغر التي لا تمتلك البنية المالية والتقنية المتاحة لشركات الحوسبة السحابية العملاقة.

وفي المقابل، قد تستفيد شركات البنية السحابية والأمن السيبراني من الطلب المتزايد على أدوات التحكم والمراقبة، إذ يمكن دمج هذه الخدمات في عقود الحوسبة السحابية الموجهة إلى المؤسسات.

الذكاء الاصطناعي قد يراقب الذكاء الاصطناعي

تتجه بعض الشركات إلى نموذج مختلف يقوم على استخدام أنظمة ذكاء اصطناعي لمراقبة أنظمة أخرى.

وتعمل «أوبن إيه آي» على آليات يمكنها رصد سلوك الوكلاء وإطلاق تنبيهات عند اكتشاف نشاط خطير، بينما تعتمد «أنثروبيك» على أدوات لمراقبة السلوك ومحاولة اكتشاف عمليات التخريب أو التصرفات غير المرغوبة.

لكن هذه الحلول ليست مثالية. وتشير اختبارات «أنثروبيك» إلى أن أنظمة المراقبة لم تتمكن من اكتشاف جميع الهجمات المحاكاة، ما يعني أن الاعتماد على الذكاء الاصطناعي وحده لإيقاف الذكاء الاصطناعي يحمل مخاطر إضافية.

بنوك كبرى تحذر: وكلاء الذكاء الاصطناعي في التسوق يزيدون مخاطر الاحتيال

من زر الإيقاف إلى بنية تحكم كاملة

لذلك، يرى خبراء أن الحل قد لا يكون في مفتاح واحد، بل في منظومة متعددة الطبقات تستطيع إيقاف مهمة محددة أو وكيل معين أو الوصول إلى موارد الحوسبة عند الضرورة.

وقد طورت «سيلزفورس» بالفعل أداة تحمل اسم (Agent Kill Switch) تتيح للمشغل إيقاف طلب أو جلسة أو وكيل، وحتى حساب شركة بالكامل في حالات الطوارئ، من خلال قطع الصلاحيات والموارد التي يحتاج إليها الوكيل لمواصلة العمل.

كما طُرح سابقاً مفهوم رقائق ذكاء اصطناعي تتطلب ترخيصاً أو تصريحاً صالحاً للعمل، بحيث يمكن التحكم في موارد الحوسبة من مستوى العتاد نفسه.

التنظيم يلاحق التكنولوجيا

المشكلة الأوسع أن سرعة تطور الذكاء الاصطناعي تتجاوز سرعة صياغة القوانين. وكلما استغرق وضع القواعد وقتاً أطول، ظهرت نماذج جديدة بقدرات مختلفة، ما يجعل بناء تشريعات قادرة على مواكبة التطور أكثر صعوبة.

ولهذا يرى بعض الباحثين أن التركيز على مفتاح الإيقاف وحده قد يكون غير كافٍ، وأن المطلوب منظومة متكاملة تشمل الرقابة، وإدارة الصلاحيات، واختبارات الأمان، وآليات الإبلاغ عن الحوادث، ومعايير موحدة للتدخل في حالات الطوارئ.

اقتصادياً، يعني ذلك أن مرحلة التوسع السريع في الذكاء الاصطناعي قد تدخل تدريجياً مرحلة جديدة تصبح فيها السلامة والحوكمة جزءاً من تكلفة المنتج نفسه، وليس مجرد إضافة اختيارية. ومع استمرار ضخ مليارات الدولارات في مراكز البيانات والرقائق والخدمات السحابية، قد تصبح القدرة على التحكم في الذكاء الاصطناعي وإيقافه عاملاً أساسياً في تحديد تكلفة تشغيل هذه الصناعة ومستقبل نموها.

هذا المحتوى مقدم من إرم بزنس