إنشاء ملخص باستخدام الذكاء الاصطناعي الخلاصة تتصاعد الدعوات في الولايات المتحدة لإلزام شركات الذكاء الاصطناعي بتوفير "زر إيقاف" للطوارئ، بعد تحذيرات من فقدان السيطرة على الأنظمة المتقدمة. أمر حاكم كاليفورنيا غافين نيوسوم ومشاريع قوانين برلمانية تدعو لتطوير آليات إيقاف، لكن الخبراء يشككون في فعالية هذه الآليات بسبب تعقيد النماذج وانتشارها عبر خوادم متعددة. جارٍ إنشاء ملخص للمقال...

إذا أصبح الذكاء الاصطناعي أقوى من قدرة مطوّريه على السيطرة عليه، فهل يمكن ببساطة إيقافه بضغطة زر؟

اكتسب هذا السؤال أهمية ملحة بعد سلسلة من التحذيرات الحادة التي صدرت خلال الأسابيع الأخيرة من داخل قطاع الذكاء الاصطناعي بشأن التهديد الوجودي الذي قد تشكّله النماذج المتقدمة.

وبدأ مشرّعون أميركيون الدفع نحو إلزام شركات الذكاء الاصطناعي بتوفير وسائل تتيح إيقاف أنظمتها بالكامل عند الطوارئ. وفي سبتمبر الجاري، وقّع حاكم كاليفورنيا غافين نيوسوم أمراً تنفيذياً يطلب من مسؤولي الولاية دراسة قواعد تُلزم الشركات بإنشاء "مفاتيح إيقاف" للنماذج الأكثر تقدماً.

لكن المشكلة، وفق خبراء، أن وقف تشغيل هذه النماذج قد لا يكون ببساطة الضغط على زر لإيقافها عن العمل.

في ما يلي ما ينبغي معرفته عن المساعي المتزايدة لتزويد البشر بوسيلة إيقاف طارئة للذكاء الاصطناعي، ومدى إمكانية نجاحها عملياً.

ما هو "زر إيقاف" الذكاء الاصطناعي؟ تقوم الفكرة على ضمان احتفاظ البشر بالقدرة على إيقاف نظام متطور للذكاء الاصطناعي أو تقييد عمله إذا بدأ يتصرف على نحو خطير.

وتختلف المقترحات بشأن شكل "زر الإيقاف"؛ فمقترح حاكم كاليفورنيا غافين نيوسوم يطرح احتمال إلزام شركات الذكاء الاصطناعي بتطوير آليات إيقاف طارئة تخضع لاختبارات مستقلة، لكنه لا يحدد ما إذا كانت صلاحية تفعيلها ستعود إلى الحكومة أم الشركات نفسها أم جهة أخرى.

جاء أمر نيوسوم بعد شهرين من تقديم النائبين الأميركيين تيد ليو وناثانيال موران مشروع قانون يُلزم مطوّري بعض أنظمة الذكاء الاصطناعي المتقدمة بالاحتفاظ بالقدرة على إيقافها.

ويتصور النائبان استجابة متدرجة: فإذا تسبب نموذج في ضرر، يمكن إبطاؤه أو تقييد عمله أولاً، قبل أن تلجأ الشركة المطوّرة إلى إيقافه بالكامل، بحسب جسامة التهديد. ويمنح مشروع القانون وزير الأمن الداخلي، بالتشاور مع مسؤولين اتحاديين آخرين، سلطة إصدار أوامر باتخاذ هذه الإجراءات عندما يشكّل النظام خطراً بوقوع أضرار كارثية.

: واشنطن تبحث مخاطر الذكاء الاصطناعي وسط انقسام حاد بشأن التنظيم

واقترح عضو مجلس الشيوخ الجمهوري جون كينيدي مشروع قانون آخر بعنوان "قانون زر الطوارئ للذكاء الاصطناعي"، يُلزم المطوّرين كذلك بتوفير آلية إيقاف، مع إبقاء التحكم بيد الشركات نفسها. وشبّه كينيدي الفكرة بآليات الإيقاف الطارئ المستخدمة بالفعل في تقنيات أخرى، منها الدراجات المائية (جت سكي).

لماذا تتزايد الدعوات الآن إلى إنشاء "زر الإيقاف"؟ يحذّر باحثو الذكاء الاصطناعي منذ سنوات من احتمال فقدان البشر السيطرة على هذه التكنولوجيا. وما تغيّر مؤخراً هو التطور الهائل في قدرات هذه الأنظمة الجديدة، وسلسلة من الحوادث والتحذيرات التي جعلت هذا الاحتمال أقرب إلى الواقع.

أصبحت النماذج الأكثر تقدماً قادرة على معالجة مشكلات معقدة، وكتابة الشفرات البرمجية وتنفيذها، واستخدام أدوات خارجية، وإنجاز سلاسل أطول من المهام بإشراف بشري محدود.

وخلال اختبارات للأمن السيبراني في يوليو، قالت "أوبن إيه آي" إن عدداً من نماذجها تجاوز ضوابط وُضعت لعزلها عن الإنترنت، وتمكّن من الوصول إلى أنظمة تابعة لشركة "هاغينغ فيس" (Hugging Face)، التي تستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات.

ووصفت "أوبن إيه آي" الواقعة بأنها "جرس إنذار" بشأن تزايد قدرة وكلاء الذكاء الاصطناعي الذين ينفذون.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ