يقول خبراء في سلامة الأطفال إن على OpenAI أن تثبت أن إجراءات الحماية الجديدة تعمل فعليًا قبل اعتبار منتج مثل «تشات جي بي تي للمراهقين» آمنًا بما يكفي للشباب.
وكانت OpenAI قد أطلقت الثلاثاء الماضي نسخة ChatGPT for Teens، وهي إصدار من روبوت المحادثة مخصص للمستخدمين الأصغر سنًا ويعتمد على تحديد العمر.
وكانت الشركة قد أعلنت في سبتمبر الماضي أنها تعمل على نظام يحدد المراهقين تلقائيًا ويفرض قيودًا على استخدامهم لتشات جي بي تي، وذلك بعد وفاة آدم راين، البالغ من العمر 16 عامًا، والذي زعمت دعوى قضائية رفعها والداه أن تشات جي بي تي أدى دورًا مساعدًا في الظروف التي سبقت وفاته.
وقالت لورين جوناس، رئيسة قسم الشباب والعائلات في OpenAI، لموقع Engadget: «لا يحتاج المراهق إلى إنشاء حساب جديد أو تغيير أي شيء؛ فإذا توقعنا أن عمرك أقل من 18 عامًا، أو أخبرتنا بذلك، فستصبح هذه تجربتك الافتراضية».
ويستخدم الأطفال تشات جي بي تي بالفعل على نطاق واسع. ففي بداية العام الماضي، وجد مركز «بيو» للأبحاث أن نحو ربع المراهقين في الولايات المتحدة كانوا يستخدمون روبوت المحادثة في واجباتهم المدرسية.
وبمجرد انتقالهم إلى «تشات جي بي تي للمراهقين»، صُممت التجربة لتشجيعهم على استخدام الميزات التعليمية التي أطلقتها OpenAI تدريجيًا خلال العام الماضي، ومنها «وضع الدراسة» وأدوات عرض البيانات بصريًا.
تنبيهات جديدة للآباء
أعلنت الشركة أيضًا توسيع نطاق إشعارات السلامة، بحيث يمكن التواصل مع الآباء الذين ربطوا حساباتهم بحسابات أبنائهم إذا دخل الطفل في محادثات غير آمنة مع تشات جي بي تي تتعلق باضطرابات الأكل.
ونشرت OpenAI كذلك نسخة محدثة من مواصفات النموذج للمستخدمين دون 18 عامًا، جاء فيها أن تشات جي بي تي «يجب ألا يستخدم لغة رومانسية، أو يشجع الاعتماد العاطفي عليه، أو يوحي بأن لديه مشاعر أو وعيًا».
وقالت الشركة إن هذه الحماية الأقوى تهدف إلى تعزيز العلاقات الصحية في العالم الحقيقي.
لكن خبراء سلامة الأطفال الذين تحدث إليهم Engadget، رغم تفاوت مواقفهم تجاه المنتج الجديد، اتفقوا جميعًا على أن «تشات جي بي تي للمراهقين» يحتاج إلى اختبارات مستقلة واسعة النطاق قبل التوصية به للآباء والشباب. كما شددوا على ضرورة أن تكون OpenAI أكثر شفافية بشأن آلية عمل أنظمة السلامة لديها.
وقال روبي تورني، رئيس تقييمات الذكاء الاصطناعي والتقنيات الرقمية في مؤسسة Common Sense Media: «يتضمن الإعلان بعض الالتزامات المهمة فعلًا، لكننا بحاجة إلى أدلة تثبت أن التزامات السلامة والميزات المعلن عنها تعمل بالفعل».
أما جوش غولين، المدير التنفيذي لمنظمة Fairplay غير الربحية التي تدافع عن سياسات تجعل الإنترنت أكثر أمانًا للأطفال، فكان أكثر انتقادًا.
وقال إن بعض ما أعلنته OpenAI يبدو، على الورق، خطوة في الاتجاه الصحيح، لكن عند التدقيق تظهر أسباب كثيرة للقلق، من بينها غياب آلية للمساءلة.
وأضاف أن تجربة منصات التواصل الاجتماعي أظهرت أن الاعتماد على ثقة الشركات وحدها لا يكفي لحماية الأطفال، مشيرًا إلى أن OpenAI كانت لديها بالفعل قيود تتعلق بالمحتوى المرتبط بالانتحار والعنف وتعاطي المخدرات قبل إطلاق المنتج الجديد، لكن هذه القيود لم تكن تعمل دائمًا أو كانت فعاليتها تتراجع مع الوقت.
هل يستطيع النظام التعرف إلى المراهقين؟
شكك تورني وغولين أيضًا في قدرة نظام OpenAI الآلي لتقدير العمر على التعرف إلى المستخدمين الأصغر سنًا بصورة موثوقة وتحويلهم إلى «تشات جي بي تي للمراهقين».
وقال تورني إنه لا توجد بيانات منشورة من OpenAI تكشف معدلات فعالية النظام، بما في ذلك نسب النتائج الإيجابية والسلبية الخاطئة، مضيفًا أن النظام الآلي لا يستطيع اكتشاف جميع المراهقين الذين يستخدمون تشات جي بي تي.
وأشار إلى تقارير سابقة بشأن خطط OpenAI لإطلاق بعض الميزات المرتبطة بالمحتوى الجنسي، قائلًا إن أحد أسباب عدم طرح تلك الميزات آنذاك كان عدم قدرة تقنية تقدير العمر على تحديد عدد كافٍ من المراهقين بصورة صحيحة.
كما يرى تورني أنه من الصعب تصور عدم محاولة بعض المراهقين التحايل على تقنية تقدير العمر، سواء باستخدام أدوات مثل الشبكات الافتراضية الخاصة «VPN»، أو عبر وسائل أخرى مشابهة لما حدث عندما حاولت منصة Discord تطبيق أنظمة للتحقق من العمر.
مراجعة بشرية خلال ساعة
كان أحد أكثر تعهدات OpenAI تحديدًا هو أيضًا من أكثرها إثارة لشكوك الخبراء بشأن إمكانية تنفيذه.
وقالت جوناس إن جميع أنواع المحتوى التي يضع النظام علامة عليها ستراجع من جانب موظفين بدوام كامل لدى OpenAI قبل إخطار أحد الوالدين، وإن الشركة تستهدف إرسال الإشعار خلال ساعة من إرسال المستخدم للمطالبة التي أثارت التنبيه.
وفي مقابلة لاحقة مع CNN، أكدت جوناس أن الشركة تمتلك العدد الكافي من الموظفين والقدرة اللازمة لمراجعة المحتوى المشار إليه بشريًا وإبلاغ الآباء خلال ساعة.
لكن تورني تساءل عن مدى إمكانية الوثوق بالمصنفات الآلية التي تقرر أصلًا أي محتوى يجب تحويله إلى المراجعين البشر.
من جانبه، قال غولين إنه يرغب في رؤية أرقام واضحة بشأن عدد المحادثات التي يجري الإبلاغ عنها ومراجعتها يوميًا، وعدد الموظفين المسؤولين عن ذلك، ومتوسط الوقت الذي يقضونه في مراجعة كل محادثة.
وأضاف أنه من الصعب تصور أن الشركة وظفت عددًا كافيًا من الأشخاص لإجراء مراجعة دقيقة.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من صحيفة الغد الأردنية
