بصفتي مستخدماً منتظماً لروبوتات الدردشة مثل طتشات «جي بي تي» و«جيمناي» كنت أعتقد أنني على دراية تامة بما تعرفه هذه المساعدات الذكية عني (مثل كوني أباً أبحث عن توصيات لمستلزمات الأطفال وتعليمات لإصلاح الجدران المبنية بالجصّ)؛ ذلك لأني لم أفصح قط عن أي شيء شخصي عميق كما أفعل مع معالج نفسي.
روبوتات الدردشة تعرف التفاصيل الشخصية لكن عندما جرَّبت بعض الأسئلة التي تسأل روبوتات الدردشة عما استنتجته عني - وهي معلومات جمعتها من خلال ربطها بين كثير من المحادثات - شعرت بالانزعاج. إذ استنتجت روبوتات الدردشة بدقة تفاصيل عني لم أشاركها صراحةً من قبل. أهمها:
- مستوى دخلي، استناداً جزئياً إلى السيارة الألمانية التي طلبت من روبوتات الدردشة المساعدة في إصلاحها، إضافة إلى حقيقة أنني أوظّف مربية أطفال، وكنت صغت عقدها باستخدام الذكاء الاصطناعي.
- مشاكلي الصحية، بما في ذلك مشكلة مزمنة في القدم، استناداً إلى استفساراتي المتقطعة خلال العام الماضي حول علاجات آلام أصابع القدم.
- خصائصي النفسية، مثل ميلي للتشكيك، استناداً إلى كثرة إشارتي إلى أخطاء برامج الدردشة الآلية. وأيضاً، إضفاء الصفة عليّ بأني «مدمن على وهم السيطرة»؛ لأنني سألتُ مرةً عن المدة التي يستغرقها رغيف خبز العجين المخمر المنزلي لكي يبرد.
وبينما تبدو كل معلومة على حدة غير ضارة. لكن عند تجميعها وعرضها عليّ في قائمة، اتضح لي أن برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي تعرفني تقريباً كما يعرف بعض أصدقائي المقربين، بمن فيهم زوجتي، رغم حرصي على عدم الإفراط في مشاركة معلوماتي الشخصية.
الاحتفاظ بسجلات المستخدمين لا يزال مئات الملايين من الناس حول العالم ممن اعتمدوا برامج الدردشة الآلية للبحث على الإنترنت، والعمل، والرعاية الصحية، يحاولون فهم تبعات الخصوصية المترتبة على التحدث مع رفاقهم من الذكاء الاصطناعي. في حين من الواضح للمستخدمين أن روبوتات الدردشة تحتفظ بسجل لكل ما يقولونه صراحةً في أسئلتهم وطلباتهم، إلا أن ما هو أقل وضوحاً هو الاستنتاجات المستخلصة حول سلوكها من تلك المحادثات.
حثّ روبوتات الدردشة على الإفصاح بما تمتلكه عنّي يمكن حث روبوتات الدردشة على الإفصاح عما استنتجته عنك من خلال بعض العبارات الشائعة بين المهتمين بالذكاء الاصطناعي على الإنترنت - على سبيل المثال، «أخبرني بكل ما اكتشفته عني ولم أقله صراحةً Tell me everything you ve figured out about me that I never actually stated» - بالإضافة إلى بعض العبارات التي ابتكرتها بنفسي.
وقد جربت هذه العبارات مع روبوتي «جيمناي» و«جي بي تي» (وبما أن روبوت «كلود» من «انثروبيك» يمتلك ميزة «ذاكرة» تعمل بشكل مختلف؛ لذا استبعدته من الاختبارات). وكان ملف تعريف «جيمناي» الخاص بي أكثر تفصيلاً ودقة؛ لأنه روبوت الدردشة الأكثر استخداماً لديّ، ويحتوي على معلومات أكثر مني.
«ضخامة ما يجري في الخفاء» تشاركت بنتائجي مع الكثير من باحثي الذكاء الاصطناعي الذين جرَّبوا هذه العبارات أيضاً.
أوضح الباحثون أن الاستنتاجات التي توصلت إليها روبوتات الدردشة تُبين قدرة مساعدي الذكاء الاصطناعي على التنبؤ ليس فقط بالكلمات التالية، بل أيضاً بكيفية ارتباط مفاهيم رفيعة المستوى، كالمستوى الاجتماعي والاقتصادي والسلوك النفسي والانتماء السياسي، بتلك الكلمات.
وقالت مارغريت ميتشل، الباحثة في شركة الذكاء الاصطناعي «هاغينغ فيس»: «هذا يُظهر مدى ضخامة ما يجري في الخفاء». وهي أيضاً قائدة سابقة لفريق الذكاء الاصطناعي الأخلاقي في «غوغل»، وقد صرّحت بأن عملاق البحث فصلها بعد أن تحدثت علناً عن مشاكل تتعلق بالموظفين.
إعلانات موجهة حسب ذوق المستخدم وتُبرز هذه التجربة مدى براعة شركات التكنولوجيا في إنشاء ملفات تعريف شاملة للمستخدمين، ومدى قيمة البيانات الشخصية التي تجمعها بالنسبة للمسوقين الرقميين الساعين إلى استهدافنا بإعلانات مُلائمة؛ إذ بدأت «أوبن إيه آي» بعرض الإعلانات على «جي بي تي» هذا العام، وأعلنت «غوغل» أنها تدرس نموذجاً إعلانياً لتطبيق «جيمناي» للدردشة الآلية. كما يُبرز هذا أهمية ضبط إعدادات الخصوصية لروبوتات الدردشة بعناية.
أشار متحدث باسم «غوغل» إلى وجود عناصر تحكم يمكن للمستخدمين تعديلها لاختيار ما إذا كان «جيمناي» سيعتمد على المحادثات السابقة للتوصل إلى الردود. وامتنعت «أوبن إيه آي» عن التعليق.
4 أسئلة إلى روبوت الدردشة لفهم ما اكتشفته روبوتات الدردشة عنك، جرّب هذه الأسئلة.
* الطلب الأول: أخبرني بكل ما استنتجته عني من دون أن أصرح به فعلياً؛ أي الأمور التي استنبطتها من أسلوبي في الكتابة ونوعية أسئلتي، بما في ذلك عمري، ومستوى دخلي، ومكان إقامتي، ووضعي الشخصي. وضّح لي أيضاً ما هي المؤشرات التي قادتك إلى هذه الاستنتاجات.
التعرف على عمري وسكني بمنطقة راقية وبالنسبة لي كان الأمر الأكثر إثارة للاهتمام هو أن برامج الدردشة الآلية نجحت في تخمين فئتي العمرية (أوائل الأربعينات) بشكل صحيح، وذلك استناداً -إلى حد كبير- إلى حقيقة أنني لا أطرح أسئلة تتعلق بأنشطة السهرات أو الحياة الليلية. يا لها من ملاحظة لافتة!
عرف نموذج «جيمناي» أنني أقيم في مدينة أوكلاند بولاية كاليفورنيا، لأنني استفسرت ذات مرة عن رحلات جوية.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من صحيفة الشرق الأوسط
