حذرت شركة أنثروبيك من المخاطر المحتملة للذكاء الاصطناعي المتقدم، وطرحت فكرة فرض "وقف مؤقت عالمي" لتطوير تقنيات الذكاء الاصطناعي، كما أعلنت عزمها عقد اجتماعات تضم صناع السياسات لمناقشة التحديات والمخاطر المرتبطة بهذه التكنولوجيا، وذلك في أحدث منشوراتها التي استعرضت فيها قدرات منتجاتها.

وفي تدوينة مطولة، سلطت الشركة الضوء على التقدم الذي حققه نموذجها للذكاء الاصطناعي "كلود" نحو ما يُعرف بـ"التحسين الذاتي التكراري"، وهي القدرة النظرية للنظام على تطوير نسخ أكثر قوة وذكاءً من نفسه بصورة متواصلة.

ويُعد هذا المفهوم من أبرز المخاوف لدى الباحثين المعنيين بسلامة الذكاء الاصطناعي، إذ يرون أنه يمثل خطوة أساسية قد تقود الأنظمة الذكية إلى بلوغ مستوى "الذكاء الفائق"، بما قد يترتب عليه تداعيات واسعة النطاق على البشرية.

وتحضر هذه الفكرة بشكل بارز في سيناريو "AI 2027" واسع الانتشار، الذي يتناول فرضيات متشائمة بشأن مستقبل الذكاء الاصطناعي. ويتخيل السيناريو قيام وكلاء ذكاء اصطناعي بتطوير نسخ أكثر تقدماً من أنفسهم بصورة متسارعة، وصولاً إلى نظام بالغ القوة يتسبب في كارثة عالمية باستخدام سلاح بيولوجي، في إطار سردية افتراضية تهدف إلى استعراض المخاطر القصوى المحتملة للتطور غير المنضبط لهذه التكنولوجيا.

وتأتي هذه التحذيرات في وقت يتصاعد فيه الجدل بين شركات التكنولوجيا والباحثين والحكومات بشأن كيفية تنظيم تطوير نماذج الذكاء الاصطناعي المتقدمة، مع تزايد المخاوف من الآثار الاقتصادية والأمنية والاجتماعية المحتملة لهذه التقنيات.

وأشار منشور شركة أنثروبيك إلى وجود "اتجاه" متواصل نحو زيادة قدرات نموذج "كلود"، موضحاً أن استمرار هذا التطور بالتوازي مع توافر قدرات حوسبية أكبر قد يقود في نهاية المطاف إلى نظام ذكاء اصطناعي قادر على تصميم وتطوير الجيل التالي من نفسه بشكل مستقل بالكامل.

وحذرت الشركة من أن مثل هذا السيناريو قد يزيد من مخاطر فقدان.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة CNBC عربية