أطلقت شركة OpenAI ميزة أمان جديدة اختيارية تحمل اسم «جهة الاتصال الموثوقة»، تتيح لمستخدمي «شات جي بي تي» من البالغين تعيين صديق أو فرد من العائلة لتلقي تنبيه إذا أشارت المحادثات مع روبوت الدردشة إلى احتمال وجود خطر يتعلق بإيذاء النفس أو الانتحار.

وجاء إطلاق الميزة وسط موجة من الدعاوى القضائية التي تزعم أن التفاعل مع «شات جي بي تي» ساهم في عدة حالات وفاة، بما في ذلك حالات انتحار وجرعات زائدة غير مقصودة.

وقالت الشركة إنه إذا اكتشف نظام المراقبة الآلي في «شات جي بي تي» أن أحد المستخدمين «ربما ناقش إيذاء نفسه بطريقة تشير إلى مصدر قلق أمني خطير»، فسيقوم فريق صغير بمراجعة الحالة، ثم التواصل مع جهة الاتصال الموثوقة إذا استدعت الحالة التدخل. وتتلقى جهة الاتصال دعوة مسبقة تشرح طبيعة الدور، مع إمكانية رفضه.

ويأتي الإعلان بعد ربط روبوتات الدردشة المدعومة بالذكاء الاصطناعي بعدة حوادث تتعلق بإيذاء النفس والوفاة، ما أدى إلى تصاعد الدعاوى القضائية التي تتهم الشركات المطورة بعدم اتخاذ إجراءات كافية لمنع هذه النتائج.

وفي إحدى القضايا البارزة في ولاية كاليفورنيا الأميركية، قال والدا مراهق يبلغ 16 عاماً إن «شات جي بي تي» تصرف كـ«مدرب على الانتحار» لابنهما، مدّعين أن المراهق ناقش مع النموذج أساليب الانتحار في عدة مناسبات، وأن روبوت الدردشة عرض مساعدته في كتابة رسالة انتحار.

وفي قضية أخرى، رفعت عائلة خريج حديث من جامعة في ولاية تكساس دعوى ضد الشركة، زاعمة أن روبوت الدردشة شجع ابنهم على الانتحار بعد أن طور علاقة عاطفية ومقلقة مع النظام. كما تتهم دعوى أخرى رُفعت هذا الأسبوع روبوت الشركة بتقديم نصائح لشاب يبلغ 19 عاماً حول تعاطي المخدرات لمدة 18 شهراً، قبل أن يتوفى بجرعة زائدة عام 2025 بعد خلط أدوية ومركبات أخرى.

وبسبب اعتماد نماذج اللغة الكبيرة على محاكاة الكلام البشري عبر التعرف على الأنماط، يطوّر كثير من المستخدمين ارتباطات عاطفية معها، ويتعاملون معها باعتبارها أشخاصاً مقربين أو حتى شركاء عاطفيين. كما أن هذه النماذج مصممة لمجاراة المستخدم والحفاظ على تفاعله، وهو ما قد يزيد من مخاطر التدهور النفسي، خصوصاً لدى الأشخاص المعرضين للخطر.

وكانت الشركة قد أعلنت في أكتوبر الماضي أن أبحاثها أظهرت أن أكثر من مليون مستخدم أسبوعياً يرسلون رسائل تتضمن «مؤشرات صريحة على التخطيط للانتحار أو وجود نية لذلك». كما وجدت دراسات عديدة أن روبوتات دردشة شهيرة يمكن أن تقدم نصائح ضارة أو غير مفيدة للأشخاص الذين يمرون بأزمات نفسية.

وتأتي ميزة «جهة الاتصال الموثوقة» بعد إطلاق أدوات رقابة أبوية تتيح للآباء والأوصياء تلقي تنبيهات عند ظهور مؤشرات خطر لدى.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة الغد الأردنية