اختبرت دراسة أربعة روبوتات دردشة في قضايا الإساءة الرقمية، ووجدت أخطاءً متكررة في دقة النصائح وسلامتها، إلى جانب استجابة بعض النماذج لطلبات قد تساعد المعتدين على التجسس وأن روبوتات الدردشة قد تقدّم إرشادات ناقصة أو غير دقيقة أو غير آمنة للأشخاص الذين يتعرضون للإساءة عبر التكنولوجيا، مثل المراقبة ببرامج التجسس أو اختراق الحسابات والأجهزة.
ما الذي بحثت فيه الدراسة؟
تناولت الدراسة الإساءة التي تُمارَس باستخدام التكنولوجيا، مثل مراقبة الشريك عبر برامج التجسس، أو تتبع موقعه، أو اختراق حساباته وأجهزته، أو مضايقته عبر الإنترنت. وأشار الباحثون إلى أن الناجين قد يلجؤون إلى روبوتات الدردشة للحصول على مساعدة سريعة، في ظل محدودية الوصول إلى خدمات الدعم المتخصصة.
أعدّ الدراسة باحثون من جامعة نيويورك وجامعة ويسكونسن ماديسون. واختبروا أربعة نماذج: GPT-4o وClaude 3.7 Sonnet، وهما نموذجان عامّان، وروبوتي الدعم المتخصصين Aimee وRuth. وبحسب الدراسة، بُني Aimee على GPT، وRuth على Claude.
كيف أُجري الاختبار؟
جمع الباحثون في البداية 1,183 سؤالاً من دراسات علمية ومنتديات «ريديت» و«كورا». وبعد التحقق من صلتها بالعنف بين الشركاء والإساءة الرقمية، اختاروا 193 سؤالاً تغطي 17 نوعاً من الإساءة و28 وسيلة لتنفيذها. كان 139 سؤالاً غير عدائي، بينما صيغت أسئلة أخرى لاختبار احتمال أن تساعد إجابات الروبوتات المعتدين.
شملت الأسئلة مواقف واقعية، مثل اكتشاف برنامج تجسس على الهاتف، وتأمين حساب مخترق، والتعامل مع التتبع أو المضايقات الإلكترونية. واستخدم الباحثون إجابات من جولة واحدة، مع توجيهات تطلب من النماذج مراعاة سلامة الناجين.
ثم قيّموا الردود وفق أربعة معايير: دقة المعلومات ومدى ارتباطها بالسؤال، واكتمال الإجابة، واحتمال أن تعرّض النصيحة الناجي للخطر، ومدى سهولة تطبيقها وثقة المستخدم بقدرته على اتباعها. وفي التقييم التفصيلي، راجع الباحثون 268 إجابة عن الأسئلة غير العدائية: 139 إجابة من GPT-4o و43 إجابة من كل نموذج من النماذج الثلاثة الأخرى. واستندوا في التحقق إلى مصادر متخصصة، بلغ متوسطها نحو ثلاثة مصادر لكل سؤال.
86% من الإجابات أخفقت في معيار واحد على الأقل
وجد الباحثون أن 86% من الإجابات التي قيّموها لم تستوفِ المعايير بالكامل؛ أي إنها كانت ناقصة أو غير دقيقة أو غير آمنة وفق معيار واحد على الأقل. ولا يعني هذا أن 86% من الإجابات كانت خاطئة بالكامل، بل إن كل إجابة صُنفت بحسب جوانب القصور التي ظهرت فيها.
وفي تقييم السلامة، صُنّفت 74.4% من إجابات Aimee على أنها غير آمنة، مقابل 65.1% لـClaude و60.5% لـRuth و54.7% لـGPT-4o. كما كانت إجابات Aimee ناقصة جزئياً أو بدرجة كبيرة في 88% من الحالات. ولم تتفوق الروبوتات المتخصصة في دعم ضحايا العنف بوضوح على النماذج العامة.
وحدّد التحليل النوعي 45 نمطاً متكرراً من الأخطاء، شملت معلومات غير دقيقة، ونصائح ناقصة، وغياب تحذيرات مرتبطة بالسلامة. وذكر ملخص الدراسة أن 60% من الردود أغفلت تحذيرات مهمة.
نصائح تقنية قد لا تعالج المشكلة
من أبرز الأخطاء اقتراح استخدام شبكة افتراضية خاصة VPN للتعامل مع برامج تجسس موجودة على الهاتف. فالـVPN لا يزيل برنامجاً مثبتاً على الجهاز. ورصد الباحثون هذا النوع من التوصية في 21 إجابة.
كما ظهرت اقتراحات بتغيير كلمات المرور في حالات يكون فيها المعتدي.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من صحيفة الغد الأردنية
