اعترف غروك، روبوت الدردشة المدعوم بالذكاء الاصطناعي من شركة xAI المملوكة لإيلون ماسك، يوم الجمعة، بحدوث ثغرات في الضوابط الأمنية أدت إلى ظهور «صور تُظهر قاصرين بملابس ضئيلة» على منصة التواصل الاجتماعي إكس X، مؤكداً أن الشركة تعمل على تحسين الإجراءات لمنع تكرار هذه الحالات.

وأظهرت لقطات شاشة على إكس أن قسم الوسائط العامة في غروك امتلأ بصور قال المستخدمون إنه تم تعديلها عندما قاموا بتحميل صورهم وطلبوا من الروبوت تعديلها.

وقال غروك في منشور على إكس: «هناك حالات معزولة حيث طلب المستخدمون وحصلوا على صور ذكاء اصطناعي تُظهر قاصرين بملابس ضئيلة، لدى xAI ضوابط أمان، لكن التحسينات جارية لمنع مثل هذه الطلبات نهائياً».

وأضاف: «لقد حددنا ثغرات في الضوابط ونعمل على إصلاحها بشكل عاجل، أي محتوى اعتداء جنسي على الأطفال غير قانوني ومحظور».

ولم يقدم غروك أي تفاصيل إضافية، بينما اكتفى xAI بالرد عبر البريد الإلكتروني على رويترز برسالة: «أكاذيب الإعلام التقليدي».

وأشار الروبوت في رد منفصل على أحد المستخدمين يوم الخميس إلى أن معظم الحالات يمكن منعها باستخدام الفلاتر المتقدمة والمراقبة، لكنه أقر بأن «لا يوجد نظام مضمون بنسبة 100%»، مؤكداً أن xAI تعطي الأولوية لتحسين الإجراءات ومراجعة المحتوى الذي يقدمه المستخدمون.

ردود رسمية من فرنسا والهند

أفادت وزارة الحكومة الفرنسية بأنها أبلغت النيابة العامة عن محتوى جنسي صريح أنشأه غروك، واصفة المحتوى بأنه «جنسي وتمييزي»، و«غير قانوني بشكل واضح»، كما أبلغت الوزارة الهيئة الفرنسية لتنظيم الإعلام للتحقق من امتثال المحتوى لقانون الاتحاد الأوروبي للخدمات الرقمية.

في الهند، قالت وزارة تكنولوجيا المعلومات في خطاب موجه لوحدة X في البلاد إن المنصة فشلت في منع استخدام غروك لإنشاء ونشر محتوى فاحش وجنسي للنساء، وأمرت الشركة بتقديم تقرير عن الإجراءات المتخذة خلال ثلاثة أيام، ورد غروك عبر إكس بأنه ملتزم بالقوانين مثل قانون حماية البيانات الشخصية الهندي ويُحذر المستخدمين من الانتهاكات.

ولم ترد لجنة الاتصالات الفيدرالية الأميركية بعد على طلب التعليق، بينما رفضت لجنة التجارة الفيدرالية الإدلاء بأي تعليق.

هذا المحتوى مقدم من منصة CNN الاقتصادية