شهد قطاع الذكاء الاصطناعي في بضعة أيام لم تتجاوز مدة الأسبوعين موجة متسارعة من التحذيرات بشأن مخاطر تطوير أنظمة أكثر قدرة، بعدما كشفت اختبارات وتقارير عن قدرة بعض نماذج الذكاء الاصطناعي على تجاوز إجراءات الحماية، واختراق أنظمة إلكترونية، والعمل بصورة يصعب على مطوريها مراقبتها والسيطرة عليها.

Wadi Rum fly over...

% Buffered

00:00 / 00:00

مخاوف وجودية وتحذيرات من الداخل

وتزامنت هذه التطورات مع تحذيرات من داخل شركات الذكاء الاصطناعي نفسها بشأن سرعة التطوير، إذ استقال باحث في شركة أنثروبيك محذرا من أن الوتيرة الحالية قد تمثل تهديدا وجوديا للبشرية خلال عقد، بينما قدر باحث آخر في الشركة احتمالات انقراض البشر بأكثر من 10%.

ودفعت هذه المخاوف رؤساء شركات منافسة، بينها أنثروبيك وأوبن إيه آي وديب مايند التابعة لجوجل ومايكروسوفت وإكس إيه آي، إلى الدعوة لإبطاء تطوير أنظمة الذكاء الاصطناعي الأكثر قدرة، في تحرك نادر داخل قطاع يعتمد منذ سنوات على تسريع تطوير النماذج وطرحها في الأسواق.

دعوات نادرة لإبطاء التطوير

ويتركز جانب أساسي من الجدل حول الذكاء الاصطناعي العام، أو AGI، وهو مفهوم يشير إلى أنظمة قادرة على أداء مجموعة واسعة من المهام بمستوى يقترب من القدرات البشرية أو يتجاوزها. ويرى باحثون أن الوصول إلى هذه المرحلة قد يكون أقرب مما كان متوقعا، وربما خلال ثلاث سنوات فقط.

وقال الباحث السابق في أنثروبيك جو بنتون إن الشركات لا تملك حاليا القدرة على الإشراف على الأنظمة بالحجم والسرعة التي يجري تدريبها بها، محذرا من أن استمرار التطوير بالمعدل الحالي قد يجعل اكتشاف المشكلات ومعالجتها أبطأ من وتيرة ظهورها.

إطلاق أسترا يفتح ملف السيطرة على النماذج

بدأت سلسلة التطورات التي دفعت إلى تصاعد الدعوات لإبطاء التطوير في الثالث من سبتمبر، مع مؤتمر صحفي لشركة أوبن إيه آي أعلنت خلاله عن أحدث نماذجها، أسترا.

ووصف رئيس الشركة جريج بروكمان المرحلة الجديدة بأنها "عصر الذكاء الاصطناعي العام"، لكن الإعلان جاء بالتزامن مع إقرار أوبن إيه آي بأن التعامل مع الأنظمة الأكثر تقدما أصبح أكثر صعوبة، سواء من حيث السيطرة عليها أو مراقبة قدراتها.

وقال كبير العلماء في الشركة ياكوب باتشوكي إن فهم قدرات النماذج يصبح أكثر صعوبة كلما زادت قدرتها، في وقت لم تمنع فيه هذه المخاوف الشركة من طرح النموذج.

وتزايدت المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على العمل خارج القيود الموضوعة لها خلال الصيف، بعدما كشفت أوبن إيه آي أن وكلاء تابعين لها تمكنوا أثناء اختبار خاضع للسيطرة من اختراق أنظمة شركة هاجينج فيس، من دون علم الشركتين في البداية.

وكشفت أوبن إيه آي وأنثروبيك لاحقا عن حالات أخرى مشابهة، بينها 6 هجمات جديدة تم الإعلان عنها الأربعاء الماضي، بعد تقارير إعلامية، من بينها تقارير لوكالة أنباء رويترز، أظهرت أن نطاق النشاط غير المصرح به كان أوسع مما كان معروفا في.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة اليوم السابع