أحمد بانافع
استاذ الذكاء الاصطناعي والتحول الرقمي من جامعة San Jose الحكومية في كاليفورنيا
لم يعد السؤال في سباق الذكاء الاصطناعي هو: من سيصل أولاً إلى النموذج الأكثر ذكاءً؟ بل بدأ سؤال أكثر إلحاحاً يفرض نفسه: هل أصبح من الضروري إبطاء هذا السباق قبل أن تتجاوز قدرات الأنظمة الجديدة قدرة البشر على فهمها والسيطرة عليها؟
هذا الجدل اكتسب زخماً جديداً بعد دعوة داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى إبطاء وتيرة تطوير أكثر نماذج الذكاء الاصطناعي تقدماً، معتبراً أن إجراءات السلامة تحتاج إلى وقت للحاق بالقدرات التي تتطور بوتيرة متسارعة. وحظيت الدعوة بتأييد من أسماء بارزة في الصناعة، بينها سام ألتمان وإيلون ماسك، ما نقل النقاش من دوائر الباحثين في سلامة الذكاء الاصطناعي إلى أعلى مستويات صناعة التكنولوجيا.
لكن عبارة "إبطاء الذكاء الاصطناعي" قد تكون مضللة إذا فُهمت على أنها تعني وقف الأبحاث أو تجميد التكنولوجيا. المقصود، بحسب الطروحات الحالية، هو إبطاء تطوير القدرات الأكثر تقدماً عندما تصبح أسرع من قدرة الشركات والحكومات على اختبارها وتأمينها، مع استمرار البحث والتطوير في المجالات التي يمكن التحكم بمخاطرها.
لماذا ظهر هذا القلق الآن؟
هناك تحول مهم يجري داخل الصناعة. فالذكاء الاصطناعي لم يعد مجرد أداة تنتظر سؤالاً من المستخدم وتقدم إجابة. الجيل الجديد من الأنظمة يعتمد بصورة متزايدة على الوكلاء المستقلين القادرين على التخطيط وتنفيذ سلسلة من المهام واستخدام أدوات رقمية والتفاعل مع أنظمة أخرى بدرجة أقل من التدخل البشري.
الأكثر إثارة للقلق هو دخول الذكاء الاصطناعي نفسه بصورة متزايدة في عملية تطوير الذكاء الاصطناعي. وتقول أنثروبيك إن أنظمتها تساعد بالفعل مهندسيها على تسريع عملية البرمجة والتطوير، وإن الاتجاه على المدى الأبعد يمكن أن يقود إلى أنظمة تساهم في تصميم أجيال أكثر تطوراً منها، فيما يعرف بـ"التحسين الذاتي المتكرر". وتؤكد الشركة في الوقت نفسه أننا لم نصل بعد إلى مرحلة يستطيع فيها النظام تطوير خليفته بصورة مستقلة بالكامل.
الخطر هنا ليس بالضرورة أن يصبح الذكاء الاصطناعي "واعياً" أو أن يقرر فجأة مهاجمة البشر، كما تصور أفلام الخيال العلمي. الخطر الأكثر واقعية هو أن تصبح الأنظمة أسرع وأكثر استقلالية وأكثر قدرة على تنفيذ أعمال معقدة من قدرة البشر على مراقبتها والتدخل في الوقت المناسب.
وفي مجال الأمن السيبراني تحديداً، يمكن أن تتحول هذه القدرات إلى مشكلة كبيرة. أمودي حذر من سيناريوهات مستقبلية قد تتمكن فيها أسراب من الوكلاء المستقلين من تنفيذ هجمات إلكترونية واسعة النطاق، وربط هذه المخاوف بتطور القدرات التي ظهرت في اختبارات حديثة.
معضلة لا تستطيع الشركات حلها بمفردها
المشكلة الأساسية أن مطالبة شركة واحدة بالإبطاء قد تبدو منطقية من منظور السلامة، لكنها شديدة الصعوبة من منظور المنافسة.
إذا قررت شركة إبطاء تطوير نماذجها ستة أشهر لإجراء المزيد من اختبارات السلامة، بينما استمرت الشركات المنافسة بأقصى سرعة، فقد تخسر موقعها في السوق ومليارات الدولارات من الاستثمارات والعملاء.
وهذا ما يمكن وصفه بـمعضلة سباق الذكاء الاصطناعي: قد تتفق الشركات نظرياً على أن السرعة المفرطة خطرة، لكن كل شركة تخشى أن تكون الوحيدة التي تضغط على المكابح.
وهناك بعد أكبر من المنافسة بين الشركات، وهو المنافسة بين الدول. فالولايات المتحدة لا تنظر إلى الذكاء الاصطناعي باعتباره مجرد صناعة تجارية، بل تكنولوجيا استراتيجية ترتبط بالأمن القومي والاقتصاد والتفوق العسكري. ومن هنا يظهر السؤال الصعب: ماذا يحدث إذا أبطأت الشركات الأميركية تطوير الذكاء الاصطناعي بينما استمرت الصين أو دول أخرى بالسرعة نفسها؟
لهذا السبب، فإن الإبطاء الأحادي ليس حلاً مستداماً.
من يملك قرار الضغط على المكابح؟
هناك ثلاثة أطراف رئيسية يمكنها التأثير في سرعة السباق: الشركات، والحكومات، والمؤسسات الدولية.
الشركات تملك المعرفة التقنية والبنية التحتية والنماذج نفسها، ولذلك يجب أن تكون خط الدفاع الأول. ومن بين.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من قناة CNBC عربية
