في خطوة تعكس تصاعد القلق العالمي من الانفلات الأخلاقي لتطبيقات الذكاء الاصطناعي، قررت إندونيسيا تعليق الوصول إلى روبوت المحادثة غروك، المملوك للملياردير الأميركي إيلون ماسك، بعد رصد محتوى جنسي مولّد آلياً اعتبرته السلطات تهديداً مباشراً لسلامة المستخدمين وحقوقهم الرقمية. القرار، هو الأول من نوعه عالمياً، ويضع شركات الذكاء الاصطناعي أمام اختبار جديد يتعلق بالمسؤولية القانونية والأخلاقية عن مخرجات أنظمتها.

وجاء هذا القرار في وقت تتزايد فيه المخاوف حول المحتوى الجنسي في تطبيقات الذكاء الاصطناعي على مستوى العالم، مع فتح بعض الحكومات الأوروبية والآسيوية تحقيقات حول الصور الجنسية المنتجة آلياً.

إجراءات الشركة المطورة

قالت شركة xAI، المطورة لتطبيق غروك، الخميس الماضي، إنها ستقيّد إمكانية توليد وتحرير الصور للمشتركين المدفوعين فقط، وذلك

لمعالجة الثغرات التي سمحت بإنتاج محتوى جنسي، بما في ذلك صور لأطفال بملابس غير مناسبة.

وقالت وزيرة الاتصالات والرقمنة، مويتيا هافيد، في بيان: "تعتبر الحكومة ممارسة إنشاء الصور الجنسية غير الموافق عليها انتهاكاً خطيراً لحقوق الإنسان وكرامة الأفراد وأمن المواطنين في الفضاء الرقمي".

وأضافت الوزيرة أنها استدعت مسؤولي xAI لمناقشة الأمر.

من جانبه، نشر إيلون ماسك على منصة إكس أن أي شخص يستخدم غروك لإنشاء محتوى غير قانوني سيُحاسب بالطريقة نفسها التي يُحاسب بها من ينشر محتوى غير قانوني.

ويوجد في إندونيسيا أكبر عدد من المسلمين في العالم، وتفرض البلاد قوانين صارمة تحظر مشاركة المحتوى الفاضح على الإنترنت، ما يجعل حظر الروبوت خطوة متوقعة ضمن إطار حماية القيم الأخلاقية والقانونية.

هذا المحتوى مقدم من منصة CNN الاقتصادية