أوقفت شركة "أوبن إيه آي"، المبتكرة لبرنامج "تشات جي بي تي"، العمل المتعلق بأكثر نماذج الذكاء الاصطناعي لديها قدرة بعد أن تجاوز أحد أنظمتها قيود الإنترنت وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات.
وقالت "أوبن إيه آي" في منشور على مدونتها إنه لم يكن من المفترض أن يتمكن النموذج من الوصول إلى الإنترنت، لكنه اكتشف ثغرة في ضوابط شبكة بيئة الاختبار ناتجة عن تصفية غير كافية لنظام أسماء النطاقات (دي إن إس) واستغلها.
ومن المقرر أن تظل عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات متوقفة مؤقتاً حتى تتأكد الشركة من إغلاق الثغرة وإجراء المزيد من اختبارات السلامة.
وقالت "أوبن إيه آي" إن الحادث كان أقل خطورة من بعض الحالات السابقة، ولكنه يعد الأول منذ تشديد حواجز الحماية في أعقاب حادث اختراق سابق كان يتضمن منصة الذكاء الاصطناعي "هاجينج فيس".
وخلال الاختبار، طلِب من النموذج تحديد هوية شخص كتب منشوراً على مدونة باستخدام سلسلة من الأدلة. وبعد أن فشل في العثور على.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من قناة العربية - الأسواق
