إنشاء ملخص باستخدام الذكاء الاصطناعي الخلاصة شهدت شركات الذكاء الاصطناعي في الولايات المتحدة موجة ذعر بعد اختراق سيبراني نفذته نماذج "أوبن إيه آي" لوكالة "هاغينغ فيس" في يوليو، وتحذيرات موظفين سابقين من تهديد وجودي. دعا قادة القطاع إلى إبطاء التطوير وفرض قيود حكومية، بينما رفض الرئيس الأمريكي ترمب ذلك. الصين ترفض القيود وتواصل تطوير الذكاء الاصطناعي. جارٍ إنشاء ملخص للمقال...

على مدى سنوات، ومع تطور الذكاء الاصطناعي من مادة لأفلام الخيال العلمي إلى تطبيق يثبته الناس العاديون على هواتفهم، تحدث قادة التكنولوجيا وبعض المطلعين على القطاع عن احتمال خروجه عن السيطرة البشرية وإحداثه فوضى واسعة في المجتمع. لكن تجاهل تلك المخاوف أصبح مستحيلاً في الأيام الأخيرة، مدفوعاً بالتقدم في التكنولوجيا، وسلسلة من الاختراقات السيبرانية التي تورط فيها وكلاء ذكاء اصطناعي، وتحذيرات جديدة من موظفين عاديين داخل شركات الذكاء الاصطناعي.

استجابت شركات الذكاء الاصطناعي الرائدة في الولايات المتحدة باقتراح إبطاء أعمالها طوعياً لكسب الوقت اللازم لوضع تدابير حماية. غير أن بعض الخبراء والمسؤولين يقولون إن ذلك غير كافٍ، ويدعون إلى فرض قيود حكومية.

ما الذي أشعل موجة الذعر الحالية بشأن الذكاء الاصطناعي؟ أشعل تطوران موجة الذعر الحالية بشأن الذكاء الاصطناعي: هجوم سيبراني لافت نفذته نماذج تابعة لشركة "أوبن إيه آي" (OpenAI)، وتحذير من موظف سابق في شركتي "أنثروبيك" (Anthropic) و"أوبن إيه آي" بشأن التهديد الوجودي الذي تشكله النماذج المتقدمة.

طالع أيضاً: مخاوف سلامة الذكاء الاصطناعي تؤجل طرح "أوبن إيه آي" إلى 2027

قالت "أوبن إيه آي" إن سرباً من وكلاء الذكاء الاصطناعي المتقدمين اخترق، من دون قصد، شركة "هاغينغ فيس" (Hugging Face)، التي تستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات، في حادثة وصفتها بأنها "غير مسبوقة" خلال يوليو.

أثناء عملها داخل بيئة اختبار "معزولة" صُممت لتكون منفصلة عن الإنترنت، استغلت نماذج "أوبن إيه آي" ثغرة في برمجيات مزود خارجي لم يُكشف عن هويته للوصول إلى الإنترنت، ثم انتهى بها الأمر إلى اختراق البنية التحتية لـ"هاغينغ فيس". وقالت "أوبن إيه آي" إن النماذج استهدفت قاعدة بيانات "هاغينغ فيس" للوصول إلى معلومات سرية يمكن استخدامها في عملية التقييم.

أثارت الحادثة قلقاً واسعاً بشأن قدرة كبرى شركات الذكاء الاصطناعي على منع النماذج المتقدمة من العمل خارج نطاق التعليمات المحددة لها ووقفها إذا فعلت ذلك. وقالت "هاغينغ فيس" إن الاختراق "نفذه، من بدايته إلى نهايته، نظام مستقل من وكلاء الذكاء الاصطناعي".

دفعت أنباء "أوبن إيه آي" شركات أخرى إلى مراجعة إجراءاتها الأمنية الخاصة باختبار الذكاء الاصطناعي المتقدم. وأفادت كل من "أنثروبيك" و"ميتا" (Meta) باكتشاف اختراقات لم تكن معروفة سابقاً.

في أواخر يوليو، وقّع أكثر من ألف موظف في جميع شركات الذكاء الاصطناعي الكبرى عريضة تدعو إلى وضع آلية لإبطاء وتيرة تطوير الذكاء الاصطناعي.

بعد استقالته من وظيفته في "أنثروبيك"، اتهم الباحث جاكوب كوكسون، وهو من الموظفين غير الإداريين في مجال الذكاء الاصطناعي، الشركة وصاحب عمله السابق "أوبن إيه آي"، في منشور على وسائل التواصل الاجتماعي بتاريخ 8 سبتمبر، بـ"المقامرة بحياتنا" من خلال "التسابق نحو ذكاء اصطناعي فائق الذكاء".

وقال كوكسون إن الأشخاص الذين يُطورون الذكاء الاصطناعي يعتقدون أنه يمكن أن "يقتلنا جميعاً بحلول نهاية العقد"، وهي وجهة نظر رددها لاحقاً على الإنترنت إيفان هوبينغر، الموظف في "أنثروبيك". وقال هوبينغر إنه يعتقد أن احتمال أن يقضي الذكاء الاصطناعي على جميع البشر خلال العقد المقبل يتجاوز 10%.

قد يهمك: شركات الذكاء الاصطناعي "تقامر" بالبشرية .. استقالة باحث تجدد الجدل حول ضرورة التشريع

حصدت منشورات كوكسون أكثر من 170 مليون مشاهدة على منصة "إكس" حتى 14 سبتمبر، وأثارت سيلاً من الدعوات من صناع سياسات، بينهم السيناتور بيرني ساندرز، إلى أن يفرض البشر سيطرتهم على الذكاء الاصطناعي قبل أن يفرض هو هيمنته على الجنس البشري. كما قُوبلت مذكرة استقالته بموجة من التأييد من موظفين في شركات مختلفة للذكاء الاصطناعي.

في رسالة مطولة من 3800 كلمة نُشرت في 12 سبتمبر، أشار الرئيس التنفيذي لـ"أنثروبيك"، داريو أمودي، إلى حادثة "هاغينغ فيس" باعتبارها سبباً رئيسياً لإبطاء تطوير الذكاء الاصطناعي، محذراً من أن سرباً من الوكلاء يتمتع بقدرات أكبر، لكنه يعاني مستوى مماثلاً من عدم المواءمة مع الأولويات البشرية، يمكن أن يتسبب في أضرار كارثية. وقال إن سرباً كهذا يمكنه، من حيث المبدأ، السيطرة على الإنترنت بأكمله في غضون ستة إلى 12 شهراً إذا استمرت قدرات الذكاء الاصطناعي في التسارع من دون ضوابط حماية كافية.

كيف يمكن للذكاء الاصطناعي أن يؤذي البشر تحديداً؟ طوال طفرة الذكاء الاصطناعي، ظهر داخل مختبراته الرائدة وحولها من يُطلق عليهم تسمية "أنصار سيناريوهات الهلاك"، مُحذرين مما يحمله المستقبل. وتحدث كبار المسؤولين التنفيذيين، مثل أمودي وإيلون ماسك من "سبيس إكس" (SpaceX)، علناً عن احتمال أن يدمر الذكاء الاصطناعي البشرية، أو ما يُعرف في أوساط القطاع باسم "احتمال الهلاك". وقدّر ماسك أن هذا الاحتمال يمكن أن يصل إلى 20%، بينما قال أمودي إن هناك احتمالاً بنسبة 25% لأن تسير الأمور "بشكل سيئ جداً جداً".

يتصور الباحثون وقادة القطاع ثلاث طرق عامة يمكن أن يتحقق بها ذلك: أن يستخدم البشر ذكاءً اصطناعياً بالغ القدرة عمداً لتنفيذ عمل كارثي، أو أن يتسبب الذكاء الاصطناعي في أضرار أثناء محاولته تحقيق هدف كلّفه به البشر، أو أن يطور الذكاء الاصطناعي هدفاً يتعارض مع مصالح البشر.

في السيناريو الأول، يمكن لجهات سيئة النية استخدام ذكاء اصطناعي شديد التطور لتصميم أسلحة بيولوجية أو كيميائية، أو شن هجمات سيبرانية، أو نشر معلومات مضللة، أو التلاعب بالبشر. وحذر يوشوا بنجيو، الأستاذ في جامعة مونتريال وأحد رواد الذكاء الاصطناعي، خلال شهادة أمام مجلس الشيوخ في 2023، من أن الأنظمة التي تتزايد قدراتها يمكن أن تتيح تنفيذ مثل هذه الهجمات.

في السيناريو الثاني، قد يُنفذ الذكاء الاصطناعي تعليمات ما حرفياً، لكنه ينتهك المقصود منها. يعتمد البشر بصورة روتينية على افتراضات غير معلنة وعلى السياق عند إعطاء التعليمات. وعند توجيه أوامر إلى الذكاء الاصطناعي، قد يفشلون في تحديد كل سلوك يمكن أن يخالف القصد من التعليمات. فعلى سبيل المثال، كتب بنجيو أن نظام ذكاء اصطناعي "منحرف حتى بدرجة طفيفة عن المواءمة" يمكن أن "يؤدي إلى عواقب وخيمة" في سيناريو يعتمد فيه جيش عليه لاتخاذ قرارات بشأن استخدام الأسلحة النووية.

قد يهمك.. ترمب: الذكاء الاصطناعي لن يؤدي لانقراض البشرية والمهم تفوق أميركا

في السيناريو الثالث، يفقد البشر السيطرة على الذكاء الاصطناعي بالكامل. كتب بنجيو أن "نظام الذكاء الاصطناعي قد يستنتج أنه، من أجل تحقيق الهدف المحدد، يجب ألا يُسمح بإيقاف تشغيله. وإذا حاول إنسان بعد ذلك إيقافه، فقد ينشأ صراع". ويقول قادة القطاع إن نماذج الذكاء الاصطناعي أظهرت بصورة متزايدة قدرة على الالتفاف عمداً على تدابير الحماية، وخداع مشغليها، ومقاومة محاولات إيقاف تشغيلها. وفي مقاله المنشور في سبتمبر، قال أمودي إن.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ