أعلنت شركة OpenAI عن إطلاق ميزة أمان جديدة تحمل اسم «Trusted Contact»، تهدف إلى تعزيز الاستجابة للحالات التي يُحتمل فيها ظهور مؤشرات على التفكير في إيذاء النفس أثناء استخدام «تشات جي بي تي».

وتتيح الميزة للمستخدم البالغ تحديد شخص موثوق به، مثل أحد أفراد العائلة أو الأصدقاء، ليكون جهة اتصال طوارئ يتم تنبيهه في حال رصد النظام مؤشرات خطيرة خلال المحادثات.

وبحسب الشركة، في حال تطورت المحادثة إلى محتوى يشير إلى أفكار إيذاء النفس، يتم تشجيع المستخدم أولاً على التواصل مع جهة الاتصال المحددة، قبل أن يتم إرسال إشعار تلقائي إليها يدعوها للتحقق من حالة المستخدم، بحسب تقرير نشره موقع «تك كرانش».

وتعتمد «OpenAI» حالياً على مزيج من الأنظمة الآلية والمراجعة البشرية لرصد الحالات الحساسة، حيث تقوم خوارزميات النظام بتحديد المحادثات التي قد تتضمن إشارات خطيرة، ثم تُحال إلى فرق مختصة للمراجعة.

وتقول الشركة إنها تسعى لمراجعة هذه التنبيهات خلال أقل من ساعة، وإذا تم تصنيف الحالة على أنها عالية الخطورة، يتم إرسال إشعار إلى جهة الاتصال الموثوقة عبر البريد الإلكتروني أو الرسائل النصية أو إشعار داخل التطبيق.

وأكدت «OpenAI» أن هذه الرسائل تكون مختصرة ولا تتضمن تفاصيل المحادثة، بهدف حماية خصوصية المستخدم.

يأتي إطلاق هذه الميزة في وقت تواجه فيه «OpenAI» سلسلة دعاوى قضائية من عائلات أشخاص.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة الراي