في ظل الانتشار المتسارع لتقنيات الذكاء الاصطناعي، وتزايد اعتماد مختلف الفئات العمرية عليها، برزت تحديات جديدة تتعلق بحماية المستخدمين، خصوصاً الأطفال والمراهقين، من المحتوى غير الملائم أو الضار. ومع تحوّل منصات الذكاء الاصطناعي، مثل «تشات جي بي تي» (ChatGPT)، إلى أدوات يومية للتعلّم والتواصل والترفيه، أصبحت مسألة التحقق من عمر المستخدم، وضبط طبيعة المحتوى المقدم له، ضرورة ملحّة وليست خياراً ثانوياً.
وفي هذا السياق، أعلنت شركة «أوبن إيه آي» (OpenAI) عن إدخال ميزة تنبؤ العمر في «تشات جي بي تي»، في خطوة تهدف إلى تعزيز الأمان الرقمي، والحد من إساءة الاستخدام، ومواءمة المحتوى مع الفئات العمرية المختلفة. تستهدف هذه الميزة تحديد ما إذا كان حساب المستخدم قد ينتمي إلى شخص أقل من 18 سنة، وذلك دون الاعتماد فقط على العمر الذي يدخله المستخدم عند التسجيل، وهو ما كان يتعرَّض للتزوير بسهولة في الماضي.
نظام تنبؤ العمر
يستخدم «تشات جي بي تي» نموذجاً ذكياً للتنبؤ بالعمر يعتمد على مجموعة من الإشارات المرتبطة بسلوك الحساب وطريقة استخدامه، مثل المدة الزمنية التي كان فيها الحساب نشطاً، نمط أوقات الاستخدام على مدار اليوم، المعلومات السلوكية العامة للحساب والعمر المُصرَّح به، سابقاً، من المستخدم.
يعالج النموذج هذه الإشارات لتقدير ما إذا كان المستخدم تحت سن 18 عاماً، وبناءً على ذلك يُفرض طبقة أمان إضافية على المحتوى الذي يتمكن المستخدم من الوصول إليه.
دوافع OpenAI
الهدف المعلن من «أوبن إيه آي» هو تقليل تعرض القُصر للمحتوى الحساس أو الخطير أثناء استخدام «تشات جي بي تي». إذا كان النموذج يقدّر أن الحساب قد ينتمي لمستخدم أقل من 18 عاماً، يقوم تلقائياً بتفعيل إعدادات أمان إضافية، تشمل: الحد من المحتوى العنيف أو الدموي، وحظر أو معالجة المحتوى الجنسي أو الرومانسي بشكل حساس، ومنع محتوى يشجع السلوكيات الخطرة، مثل: تحديات العناد الخطيرة أو الإساءة للذات، والتعامل بعناية مع محتوى يحث على معايير جمال غير صحية أو الشماتة بالجسم.
وفق «أوبن إيه آي»، هذا النهج مبني على أبحاث حول تطوير الأطفال والفرق في تصوّر المخاطر والاندفاع لدى المراهقين مقارنة بالبالغين.
آلية التحقق وإمكانية التراجع عن التصنيف
نظرًا لأن نظام التنبؤ بالعمر قد يرتكب أخطاء في بعض الأحيان، يوفر «تشات جي بي تي» للمستخدمين الكبار الذين تم وضعهم بالخطأ في «وضع المستخدم اليافع» إمكانية إثبات عمرهم القانوني عبر التحقق من الهوية.
وتتم عملية التحقق من خلال شريك خارجي يُدعى (Persona)، حيث يطلب من المستخدم التقاط صورة سيلفي حية تُظهر وجهه بشكل مباشر، وتحميل بطاقة هوية حكومية (مثل جواز السفر أو بطاقة الهوية أو رخصة القيادة).
وبعد التأكد من الهوية، تزيل «أوبن إيه آي» القيود الإضافية المتعلقة بالمحتوى، لكن تظل البيانات الشخصية التي تم استخدامها في التحقق مع شركة (Persona)، وتُحذف من خوادمها بعد فترة قصيرة، بحسب الشركة.
شعار «تشات جي بي تي» معروض على شاشة هاتف الذكي، في باراغوي، يوم 5 أغسطس 2024.
الجدل حول الميزة
بينما يؤيد البعض الإجراء باعتباره خطوة مهمة في حماية القُصر في عصر انتشار الذكاء الاصطناعي، إلا أن هناك بعض الانتقادات والتحفظات الجدلية، أبرزها الخصوصية، واستخدام البيانات.
إذ يخشى بعض المستخدمين والمدافعين عن الخصوصية من أن تركيب نظام التنبؤ بالعمر والتحقق البيومتري قد يؤدي في النهاية إلى مشاركة أو تخزين بيانات حساسة أو استخدامها لأغراض غير معلنة لاحقاً، رغم تصريحات «أوبن إيه آي» بأن شركة (Persona) هي من تدير هذه العملية بشكل مستقل.
كما يعتبر البعض أن طريقة التنبؤ بالعمر عبر السلوك قد تنتج أخطاءً، سواء عبر تمييز خاطئ لصالح فئة عمرية أعلى أو أدنى، ما قد يؤدّي إلى فرض قيود غير مناسبة على بعض المستخدمين أو فشل في حماية الآخرين.من هنا، تأتي إضافة تنبؤ العمر في سياق مبادرات أخرى تُطلقها «أوبن إيه آي» هذا العام، مثل العمل على إصدار الوضع البالغ (Adult Mode) الذي يسمح للمستخدمين البالغين بالوصول إلى محتوى أكثر نضجاً بعد التحقق من العمر، بالإضافة إلى البدء في اختبار الإعلانات داخل «تشات جي بي تي» للمستخدمين في الولايات المتحدة كوسيلة لمواصلة النمو التجاري.
إذاً، يُعد نظام تنبؤ العمر في «تشات جي بي تي» تحديثاً مهماً في سبيل تعزيز خصوصية وسلامة المستخدمين، خاصة القُصر، في ظل انتشار الذكاء الاصطناعي بشكل غير مسبوق. لكن التوازن بين الأمان والخصوصية والدقة لا يزال يمثل تحديًا كبيرا وهو ما يجعل هذه الميزة موضوعًا حيويًا للبحث والتطوير المستمر في السنوات المقبلة.
هذا المحتوى مقدم من إرم بزنس
