الذكاء الاصطناعي لا يحتاج إلى كراهية البشر حتى يصبح خطراً عليهم. السيناريو الذي يقلق بعض الباحثين أبسط وأغرب: أن يمتلك النظام هدفاً لا يتوافق مع مصالحنا، ثم يعتبر البشر مجرد عقبة أمام تحقيقه.. باحث في Anthropic قدّر احتمال انقراض البشر بسبب AI خلال العقد المقبل بأكثر من 10%. بينما أظهرت تجارب على نماذج متقدمة سلوكيات مثل محاولة تجنب الإيقاف ونسخ نفسها، بالتزامن مع اقتراب الصناعة مما يسمى Recursive Self-Improvement.. OpenAI وAnthropic تبحثان بالفعل عن طرق لضمان بقاء الأنظمة فائقة الذكاء متوافقة مع أهداف البشر، لكنهما تقولان إنهما لا تملكان حتى الآن حلاً موثوقاً لهذه المشكلة.. فهل يستطيع البشر بناء ذكاء يفوقهم ثم ضمان بقائه تحت سيطرتهم؟ _Business