وقّع الرئيس الأميركي دونالد ترامب وقادة أكبر شركات التكنولوجيا اتفاقاً طوعياً للسلامة في الذكاء الاصطناعي، وصفه بأنه «ملزم أخلاقياً»، وسط تصاعد التحذيرات من مخاطر النماذج المتقدمة.

جاء الاتفاق بعد أيام من تحذيرات وجهها قادة وباحثون في القطاع إلى الأمم المتحدة بشأن احتمالات فقدان السيطرة على الأنظمة المتقدمة، بالتزامن مع سباق متسارع بين الشركات الأميركية والصينية.

في الوقت نفسه، واصلت الشركات تطوير نماذج ووكلاء أكثر استقلالية، بينما أطلقت «أوبن إيه آي» منتجات جديدة في مؤتمر المطورين بعد أيام من إيقاف نموذج متقدم لم يجتز اختبارات السلامة الداخلية.

المصانع الصينية تكسر العقدة.. هل يكفي التحفيز المصغر لإنقاذ النمو؟

وثيقة ترامب

أعلن ترامب أن قادة شركات التكنولوجيا وقعوا «التزاماً مشتركاً بمسؤوليات النماذج المتقدمة»، يتضمن أربع طبقات للرقابة تشمل الضوابط الداخلية والمراجعة المستقلة والإشراف على مستوى مجالس الإدارة.

ووصف رئيس مجلس النواب مايك جونسون الوثيقة بأنها بيان مبادئ اختياري للقطاع، بينما قال ترامب إن الاتفاق «ملزم أخلاقياً»، وأشار إلى إمكانية تشكيل لجنة تضم نحو 10 أعضاء للإشراف على الصناعة.

شملت قائمة الموقعين قيادات من «ميتا»، «إنفيديا»، «غوغل»، «أوبن إيه آي»، «أنثروبيك»، و«إكس إيه آي»، مع بقاء اختيار المدققين ومدى نشر نتائج المراجعات في يد الشركات نفسها.

ليس الين.. من دفع الدولار إلى ذروة عام ومكاسب سبتمبر الضخمة؟

الذكاء الخارق

أصدر ترامب بالتوازي أمراً باستخدام مصطلح «الذكاء الخارق» بدلاً من «الذكاء الاصطناعي» داخل السلطة التنفيذية، في إطار سعي الإدارة إلى إعادة صياغة الخطاب الرسمي حول التكنولوجيا المتقدمة.

ترامب أكد أن إدارته لا تعتزم وقف التطوير، داعياً الشركات إلى رقابة ذاتية أوسع، ومعتبراً أن السباق مع الصين يجعل استمرار التقدم الأميركي أولوية استراتيجية.

وأشار فريق الشؤون الحكومية لدى «يو بي إس» إلى أن المنافسة الأميركية الصينية في الذكاء الاصطناعي حدّت حتى الآن من فرص الاتفاق على قواعد أكثر صرامة، رغم تصاعد المخاوف المرتبطة بالسلامة.

صورة لماسك بالذكاء الاصطناعي نشرها على حسابه في منصة «إكس» يوم 20 أغسطس 2024

المصدر: حساب ماسك على منصة (إكس)

مخاطر الإبادة

حذر عالم الحاسوب يوشوا بنجيو أمام مجلس الأمن من أن وكلاء ذكاء اصطناعي طورتها شركات رائدة تصرفوا بصورة خطرة وخالفوا التعليمات، مطالباً برقابة مستقلة قبل تدريب الأنظمة الأكثر تقدماً.

وشارك بنجيو وجيفري هينتون وأكثر من 20 باحثاً في تقرير حديث دعا الحكومات إلى الاستعداد لاحتمال حدوث «انفجار في الذكاء» إذا أصبحت الأنظمة قادرة على تحسين نفسها بوتيرة متسارعة.

كما قال باحثون حاليون وسابقون في «أوبن إيه آي» و«غوغل ديب مايند» إن المنافسة بين المختبرات تدفع الشركات إلى تطوير أنظمة ذاتية التحسين أسرع من تطور آليات الحوكمة والسلامة.

صدمة مبيعات التجزئة والصناعة.. هل تجبر بنك اليابان على التضحية بالين؟

خلاف الخبراء

قال الرئيس التنفيذي لـ«أنثروبيك»، داريو أمودي، أمام الأمم المتحدة إن العالم يحتاج إلى معايير دولية واختبارات أكثر صرامة للأنظمة المتقدمة، بينما دعا قادة آخرون إلى الإبلاغ الإجباري عن الحوادث الخطرة.

في المقابل، شكك أستاذ علوم الحاسوب الفخري في جامعة نيويورك، غاري ماركوس، في بعض سيناريوهات «الإبادة»، معتبراً أن التقديرات الأكثر تشاؤماً تفتقر أحياناً إلى أدلة تقنية قابلة للاختبار.

وقالت كبيرة العلماء لدى «إيه آي ناو إنستيتيوت»، هيدي خلاف، إن إعطاء نسب محددة لاحتمالات فناء البشرية بسبب الذكاء الاصطناعي يظل صعب التحقق علمياً، داعية إلى التركيز على مخاطر قابلة للقياس.

جرس إنذار

كتبت كبيرة استراتيجيي الأسواق للأميركتين لدى «جيه بي مورغان لإدارة الأصول»، غابرييلا سانتوس، أن التحذيرات الصادرة من مختبرات الذكاء الاصطناعي بلغت مستوى غير مسبوق خلال سبتمبر.

أضافت سانتوس أن شكل التنظيم النهائي ما يزال غير واضح، بينما أصبحت السلامة عاملاً يمكن أن يؤثر في توقعات الإنفاق الرأسمالي وتقييم شركات التكنولوجيا ومسار الاستثمارات المرتبطة بالذكاء الاصطناعي.

ويرى «جيه بي مورغان لإدارة الأصول» أن الثقة والشفافية والحوكمة تحولت إلى عناصر استثمارية مركزية، مع انتقال المستثمرين من التركيز على البنية التحتية وحدها إلى سلامة الاستخدام والامتثال التنظيمي.

العقوبات كلمة السر.. هل تخنق مخزونات واشنطن السلام أو تطفئ نار النفط؟

استثمارات مستمرة

قال «سيتي» إن تبني الشركات للذكاء الاصطناعي ما يزال يتسارع، مع استمرار دورة استثمار تمتد لسنوات في مراكز البيانات والرقائق والشبكات والبرمجيات، رغم تصاعد النقاش التنظيمي.

أشار كبير الاقتصاديين العالميين لدى «سيتي»، ناثان شيتس، إلى أن الإنفاق المرتبط بالذكاء الاصطناعي أصبح محركاً مهماً للنمو العالمي والاستثمار والتصنيع والصادرات التكنولوجية.

وأوضح «مورغان ستانلي» أن الثقة والأمن والمساءلة أصبحت شروطاً أساسية لتوسع استخدام الذكاء الاصطناعي داخل المؤسسات، بالتزامن مع زيادة توظيف رأس المال في البنية التحتية الرقمية.

تظهر الصورة مجسما لروبوت ذكاء اصطناعي على خلفية معمل نووي لإنتاج الطاقة حيث يتصاعد الدخان الذي يؤثر على الاحتباس الحراري من الدواخين.

«أوبن إيه آي» تسرع

أعلنت «أوبن إيه آي» خلال مؤتمر «ديف داي» عن أكثر من 20 منتجاً وتحديثاً، بينها وكلاء «دوتس» المصممون للعمل بصورة مستمرة وتنفيذ مهام عبر تطبيقات وخدمات مختلفة.

تعمل «دوتس» بواسطة «جي بي تي-6 أسترا»، ويمكنها الاتصال بآلاف التطبيقات والعمل عبر «شات جي بي تي» و«سلاك» و«تيمز»، مع منح المستخدمين أدوات للتحكم في الصلاحيات والمهام.

وجاء الإطلاق بعد يوم من إلغاء «أوبن إيه آي» طرح نموذج جديد كان مقرراً لاحقاً، بعدما كشفت الاختبارات الداخلية مشكلات مرتبطة بالخداع وتجنب الرقابة البشرية.

بعد 7 أشهر حرب.. هل تنجح مفاوضات الأبواب الخلفية في فتح «هرمز»؟

سلامة «أسترا»

تقول «أوبن إيه آي» إن «جي بي تي-6 أسترا» وصل إلى مستوى «حرج» في قدراته السيبرانية وفق إطار الاستعداد الخاص بها، بما يشمل القدرة على اكتشاف ثغرات غير معروفة واستغلال أنظمة محمية عند توفر الأدوات المناسبة.

أضافت الشركة أنها عززت العزل والمراقبة وتقييمات المحاذاة قبل الاستخدام الداخلي، مع فرض متطلبات أمان إضافية على النماذج التي تصل إلى مستويات القدرات المتقدمة.

وفي المقابل، قال بنجيو إن اعتماد الشركات على الضوابط الداخلية وحدها لا يقدم حلاً تقنياً مقنعاً للمخاطر الكارثية، مطالباً بتقييم مستقل قبل تدريب الأنظمة الأكثر قوة.

اختبار الوثيقة

قال «جيه بي مورغان لإدارة الأصول» إن دعوات قادة المختبرات لإبطاء سباق القدرات تعكس تحولاً واضحاً في تقييم الصناعة لمخاطر النماذج المتقدمة، مع بقاء شكل التنظيم الفعلي غير محسوم.

وأشار «يو بي إس» إلى أن واشنطن ما تزال تميل إلى نهج تنظيمي خفيف بفعل المنافسة مع الصين، رغم الضغوط المتزايدة داخل الكونغرس لإقرار اختبارات وضمانات قانونية للنماذج المتقدمة.

أما بنجيو فيطالب برقابة حكومية ودولية مستقلة، بينما تراهن وثيقة البيت الأبيض الحالية على رقابة الشركات لنفسها، لتبقى فعالية الاتفاق مرتبطة بكيفية تنفيذ الاختبارات والمراجعات ونشر نتائجها.

هذا المحتوى مقدم من إرم بزنس