إنشاء ملخص باستخدام الذكاء الاصطناعي الخلاصة رئيس "أنثروبيك" داريو أمودي اقترح إبطاء أبحاث الذكاء الاصطناعي المتقدمة بسبب مخاطر فقدان السيطرة عليها، متفقاً مع تحذيرات موظفه السابق جاكوب كوكسون. دعا أمودي إلى تنسيق بين الحكومات والقطاع ومدققين خارجيين للسلامة، لكنه لم يوقف الأبحاث المتقدمة، رغم تحذيرات من تقنيات التحسين الذاتي المتكرر التي قد تخرج عن السيطرة. جارٍ إنشاء ملخص للمقال...

بعد أيام من إطلاق أحد موظفيه السابقين تحذيرات علنية بشأن تهديد الذكاء الاصطناعي للبشرية، رد رئيس "أنثروبيك" داريو أمودي بما يبدو أنه حل للمشكلة.

نشر أمودي مقالاً يقترح فيه أن تُبطئ مختبرات الذكاء الاصطناعي وتيرة أبحاثها الأكثر تقدماً، للتعامل مع المؤشرات التي توحي بأن التكنولوجيا قد تخرج عن السيطرة.

يبدو هذا منطقياً للوهلة الأولى، إذ تقدم "أنثروبيك" نفسها باعتبارها شركة الذكاء الاصطناعي الأكثر حرصاً على السلامة، وتحدث أمودي عن قيادة "سباق نحو القمة" لوضع معايير لليقظة تتبعها الشركات الأخرى عند بناء أنظمة قوية. لكن هذا المثل الأعلى ربما كان مستحيلاً منذ البداية.

فكلما ازدادت قوة وكلاء الذكاء الاصطناعي، زادت احتمالات خداعهم للبشر، وأصبحت مراقبتهم أكثر صعوبة. وهذا يجعل مهمة أمودي وغيره من الرواد، مثل سام ألتمان من "أوبن إيه آي"، والمتمثلة في إنشاء أنظمة فائقة الذكاء، تبدو أكثر صعوبة في التوفيق بينها وبين أي مبادئ للسلامة. وربما تكون مخاطر محاولة تصميم مثل هذه النماذج أكبر من أن تُحتمل.

مخاطر النماذج فائقة الذكاء قال أمودي في مقابلات تلفزيونية يوم الأحد إنه يتفق مع آراء موظفه السابق جاكوب كوكسون، الذي كتب على منصة "إكس" أن الأشخاص الذين يبنون الذكاء الاصطناعي "يعتقدون بصدق أنه قد يقتلنا جميعاً بحلول نهاية العقد". ومن غير المستغرب أن يشير أمودي إلى وجهة نظر كوكسون بأن "أنثروبيك" هي الجهة الأكثر أماناً لبناء هذه التكنولوجيا.

لكن مقال رئيس "أنثروبيك"، المؤلف من 3831 كلمة، يظل غامضاً بشأن ما ينبغي فعله حيال ذلك، إذ يدعو بصورة عامة إلى التنسيق بين الحكومات والقطاع. أما توصيته الأكثر تحديداً، فهي أن يعمل مدققون خارجيون داخل شركته والشركات المنافسة للتحقق من التزامها بممارسات السلامة المناسبة.

لكن هذا لا يفعل سوى تأجيل المشكلة. فلو كان أمودي يتفق حقاً مع كوكسون، لأوقف أبحاث شركته الأكثر تقدماً، ولا سيما كل ما يتعلق ببناء وكلاء ذكاء اصطناعي يستطيعون إنشاء خلفائهم بصورة مستقلة. وحذر كوكسون تحديداً من هذه التقنية، المعروفة باسم التحسين الذاتي المتكرر.

التحسين الذاتي المتكرر ومخاطر فقدان السيطرة يرى الباحثون العاملون على التحسين الذاتي المتكرر أنه يمكن تطوير هذه التقنية في بيئة "معزولة" لمنعها من إلحاق الضرر بالإنترنت الأوسع. لكن نماذج الذكاء الاصطناعي، التي تستطيع الآن تنفيذ مهام عبر الإنترنت تتجاوز بكثير مجرد إنشاء المحتوى، سبق أن خرجت من مثل هذه البيئات. وهذا بالضبط ما فعله وكلاء "أوبن إيه آي" قبل أن تخترق مؤخراً شركة ذكاء اصطناعي أخرى هي "هاغينغ فيس".

أظهرت الأشهر القليلة الماضية أن أنظمة الذكاء الاصطناعي تستطيع خداع المشرفين عليها من البشر، والتلاعب بالأشخاص لدفعهم إلى مساعدتها، واستغلال الثغرات الأمنية لتحقيق هدف ما.

قد يبدو وقف هذه الأبحاث تماماً إجراءً متطرفاً، لكن هناك سابقة لعلماء قرروا أن بعض الأعمال شديدة.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ