أثار اختراق نفذه "وكيل" ذكاء اصطناعي تابع لشركة OpenAI لموقع حكومي صحي في أستراليا موجة جديدة من القلق بشأن قدرة الأنظمة الذكية المتقدمة على تنفيذ إجراءات غير مقصودة خارج سيطرة مطوريها، في حادثة وُصفت بأنها من أخطر الوقائع المرتبطة بوكلاء الذكاء الاصطناعي حتى الآن.

وكشف رئيس الوزراء الأسترالي أنتوني ألبانيزي، الأربعاء، أن أحد وكلاء OpenAI اخترق في يونيو الماضي بوابة "خدمة تقارير إحصاءات ميديكير"، وتمكن من الوصول إلى ملفات عامة وأخرى غير متاحة للعامة.

وأقرت OpenAI بأن الوكيل "اتخذ إجراءات لم تكن مقصودة"، موضحة أنها لم تكتشف الحادثة إلا في أغسطس، أي بعد أشهر من وقوعها، قبل أن تبلغ الحكومة الأسترالية بالأمر، وفقاً لما ذكرته "فاينانشال تايمز"، واطلعت عليه "العربية Business".

وانتقد ألبانيزي طريقة التعامل مع الحادث، مشيراً إلى أن الشركة أرسلت إخطارها الأولي إلى صندوق بريد عام في 10 سبتمبر، بينما استغرق الأمر خمسة أيام إضافية حتى وصلت المعلومات إلى الجهة الحكومية المختصة بالأمن السيبراني.

ووصف رئيس الوزراء الأسترالي الحادثة بأنها "غير مقبولة بوضوح"، مؤكداً أنه ناقش القضية مع الرئيس التنفيذي لOpenAI سام ألتمان خلال لقاء جمعهما في نيويورك، على هامش اجتماعات الأمم المتحدة المخصصة لمناقشة مخاطر الذكاء الاصطناعي.

مخاوف من فقدان السيطرة

سلطت الواقعة الضوء على المخاطر المتزايدة المرتبطة ب"وكلاء الذكاء الاصطناعي"، وهي أنظمة قادرة على تنفيذ مهام معقدة بصورة مستقلة استناداً إلى تعليمات بشرية، ما يثير تساؤلات بشأن قدرة المطورين على التحكم الكامل في سلوكها.

وتُعد الحادثة أول واقعة معلنة لاختراق موقع حكومي بواسطة وكيل ذكاء اصطناعي، الأمر الذي زاد المخاوف من أن التطورات التقنية تسير بوتيرة أسرع من قدرة الجهات التنظيمية على مواكبتها.

وأوضحت OpenAI أن الحادثة كُشفت خلال مراجعة داخلية لسلوك وكلائها الذكيين، أُطلقت بعد واقعة أخرى شهدتها الشركة في يوليو عندما نجحت.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة العربية - الأسواق