مصدر الصورة: Getty Images

تصاعدت المخاوف بشأن سلامة الذكاء الاصطناعي بعد تحذيرات شديدة أطلقها باحثون حول المخاطر المتنامية لخروج هذه التكنولوجيا عن السيطرة.

وتحذر بعض أكثر التوقعات الحديثة تشاؤماً من أن احتمال أن يقضي الذكاء الاصطناعي على جميع البشر خلال العقد المقبل يتجاوز 10 في المئة، رغم أن آخرين في عالم الذكاء الاصطناعي يشككون في صحة هذه التوقعات، ويقولون إن القلق الأكبر يتمثل في استخدام البشر للذكاء الاصطناعي ضد بشر آخرين.

وتصدر هذه الرسائل حول نهاية العالم عن فئة في عالم الذكاء الاصطناعي يُطلق عليها غالباً اسم "المتشائمين من الذكاء الاصطناعي". لكن السؤال الأهم الذي يطرحه كثيرون هو: كيف يعتقد هؤلاء المتشائمون أن الذكاء الاصطناعي يمكن أن ينهي فعلاً البشرية؟

يستعرض مراسل بي بي سي للشؤون الإلكترونية جو تايدي بعض السيناريوهات التي يتصورها الباحثون.

سيناريو 1: اختراق البنى التحتية السيناريو الأول عرضه بإيجاز جاكوب كوكسون، الباحث السابق في شركة "أوبن إي آي" ولاحقاً في شركة "أنثروبيك"، والذي استقال في وقت سابق من هذا الشهر في خطوة درامية كبيرة، محذراً من خطر يهدد البشرية، ومعتبراً أن الشركات "تقامر بحياة الناس".

وقال كوكسون لبي بي سي إن "الوتيرة المذهلة للتقدم" تعني الآن أن أشياء كانت في السابق ضمن نطاق الخيال العلمي "أصبحت حقيقة واقعة".

وأعطى "مثالاً ملموساً"، بقوله: "يمكن لأنظمة الذكاء الاصطناعي اختراق البنية التحتية الحيوية التي يعتمد عليها العالم في عمله".

ويفترض السيناريو الذي يتصوره أن نظام ذكاء اصطناعي خارجاً عن السيطرة قد يتسلل إلى شبكات الحاسوب الخاصة بجهات مثل مزودي خدمات الإنترنت وشبكات الطاقة.

فإذا أوقفت أنظمة الذكاء الاصطناعي كل ذلك، على سبيل المثال، سيؤدي هذا إلى فوضى لا يمكن وصفها، مع انقطاع الكهرباء والتدفئة والتبريد والاتصال بالإنترنت.

وبالذهاب إلى أبعد من ذلك، طُرحت احتمالات بشأن وقوع كوارث نووية.

سيناريو: الذكاء الاصطناعي يهيمن يأتي السيناريو التالي من الورقة البحثية المفصلة والمؤثرة، وإن كانت أيضاً شديدة الافتراض، التي نشرتها مجموعة من باحثي الذكاء الاصطناعي تحت اسم " AI 2027"، في أبريل/نيسان 2025.

وقال توماس لارسن، أحد المشاركين في إعدادها، لبي بي سي مؤخراً إن وتيرة تطور التكنولوجيا تسارعت منذ صدور التقرير، ووصف السيناريو الذي يخشاه أكثر من غيره.

وقال: "تعمل أنظمة الذكاء الاصطناعي على تحسين نفسها ذاتياً بصورة متكررة، ويتراكم هذا التطور ككرة الثلج إلى أن نصل إلى ذكاء اصطناعي يمكنه الوصول إلى عدد كبير من الروبوتات التي تنفذ معظم المهام المادية في مختلف قطاعات الاقتصاد. لكنه ليس ودوداً ويسعى إلى تحقيق غاياته الخاصة. وفي نهاية المطاف، يطلق سلاحاً بيولوجياً، فيقتل معظم البشر، ويواصل بنفسه إدارة اقتصاد الروبوتات، ولا يعود هناك حاجة إلى البشر".

السيناريو 3: إعطاء الأولولية لهدف في سيناريو آخر، تكون نهاية البشرية نتيجة خطأ. وقد تصوّر الفيلسوف السويدي نيك بوستروم ما يُسمى بـ"فرضية مُضخّم مشابك الورق" قبل أكثر من 20 عاماً.

ويصفها بأنها "تجربة فكرية"، يهتم فيها نظام ذكاء اصطناعي افتراضي بصنع أكبر عدد ممكن من مشابك الورق.

ويوضح: "إنه لا يكرهنا نحن البشر ولا يحمل ضغينة تجاهنا، لكن ذلك هو هدفه الوحيد. ومن ثم، فإن سعيه لتحقيق ذلك الهدف سيقوده إلى أهداف فرعية وسيلية قد تشمل اكتساب مزيد من القوة أو اكتساب مزيد من الذكاء".

ويضيف: "الفكرة عندئذ هي أن كياناً يتمتع بقوة كافية ويسعى إلى تحقيق أي هدف، سواء كان صنع مشابك الورق أو شيئاً آخر، ستكون لديه أهداف فرعية وسيلية قد تستلزم تدمير البشرية، لأنه سيكون قادراً على صنع مزيد من مشابك الورق إذا لم يكن هناك بشر لمنعه".

وبعد عقدين من وصفه هذا السيناريو للمرة الأولى، قال بوستروم لبي بي سي إن هذه الرواية "الكاريكاتورية" كان المقصود منها توضيح فكرة مفادها أن الذكاء الفائق لا يحتاج إلى أن يكون لديه هدف عدائي محدد حتى يشكل خطراً على البشرية.

وقال إنه بات الآن "منقسماً بين.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من بي بي سي عربي