بعد مرور شهرين على كشف شركة أوبن إيه آي عن اختراق غير مقصود لمنصة "هاغينغ فيس"، لا تزال الشركة المطورة لـ"شات جي بي تي" تعمل على فهم النطاق الكامل لأنشطة وكلاء الذكاء الاصطناعي التابعين لها، الذين يتصرفون بشكل غير متوقع أو خارج عن السيطرة، وذلك وفقًا لما ذكره شخصان مطلعان على الأمر لوكالة رويترز.

وظهر أحدث مثال على ذلك يوم الجمعة، عندما قالت "أوبن إيه آي" إن وكلاءها سربوا 53 صورة من مستخدمي "شات جي بي تي".

ورفضت "أوبن إيه آي" الكشف عما إذا كانت الصور مولدة بالذكاء الاصطناعي أو تُظهر أشخاصًا حقيقيين يمكن تحديد هوياتهم. كما رفضت الكشف عن موعد نشر الصور.

وفي يوم الجمعة أيضًا، أكدت "أوبن إيه آي" أن وكلاءها تمكنوا من الوصول إلى مواقع حكومية أميركية، بما في ذلك موقعي هيئة الأوراق المالية والبورصات ووزارة التجارة، حيث وصلوا إلى بيانات التعداد السكاني للولايات المتحدة من موقع الأخيرة. وكانت الشركة تحقق أيضًا في محاولة اختراق لموقع وزارة التعليم.

وتكشف هذه الإفصاحات عن مجال جديد من مخاطر الخصوصية بالنسبة إلى الشركة، كما توضح مدى صعوبة حصر جميع الأنشطة غير المصرح بها المرتبطة بوكلائها، حتى بالنسبة إلى شركة ذكاء اصطناعي في طليعة هذا المجال، بحسب تقرير لصحيفة "ذا غارديان"، اطلعت عليه "العربية Business".

وتعكس المعركة المستمرة التي تخوضها "أوبن إيه آي" فجوة واسعة بين قوة النماذج التي تختبرها الشركة وقدرتها على الإشراف على تصرفاتها أو حتى تتبعها.

وحتى منتصف سبتمبر، قدّر شخص أُحيط علمًا بالأمر أن "أوبن إيه آي" اكتشفت نحو 24 واقعة تصرف فيها وكلاؤها بطرق غير مرغوبة. لكن العدد واصل الارتفاع مع قيام فرق "أوبن إيه آي" بتمشيط السجلات الداخلية لأنشطة الوكلاء واكتشاف حالات لم تكن معروفة من قبل، وفقًا للشخصين المقربين من الشركة.

وقالت "أوبن إيه آي" إن مراجعتها ستستغرق "أشهرًا" نظرًا إلى حجم العمل، وإنها أبلغت "عشرات" الجهات الخارجية بوقوع أنشطة غير سليمة.

وجرى حذف معظم الصور المسربة، وقالت "أوبن إيه آي" إنها تضغط على مزودي خدمات الاستضافة لإزالة الصور المتبقية.

ماذا حدث؟ كان وكلاء "أوبن إيه آي" قادرين على الوصول إلى هذه الصور لأن الشركة تعتمد على بيانات مستخدمين مجهّلة لتدريب جزء من نماذجها، وفقًا للشركة وموظفين سابقين وباحثين مستقلين.

ولا تخضع بيانات المؤسسات للتدريب، بينما يتعين على مستخدمي "شات جي بي تي" من المستهلكين إلغاء الاشتراك في استخدام بياناتهم لتدريب النماذج إذا كانوا لا يريدون السماح للشركة باستخدام بياناتهم في تدريب النماذج.

وقبل استخدام منشورات المستخدمين في التدريب، تمر هذه المنشورات بعملية إخفاء هوية تزيل البيانات الوصفية والأسماء ومعلومات الاتصال وغيرها من البيانات، بما يفترض أن يجعل من الصعب ربطها بأي مستخدم بعينه، بحسب الشركة.

لكن هذه الممارسة تنطوي على مخاطر، إذ توجد احتمالية ألا يتم حذف جميع المعلومات التي تحدد هوية المستخدمين بشكل كامل، وأن تتسرب هذه المعلومات أثناء عمل النموذج، وفقًا لثلاثة أشخاص مطلعين على ممارسات "أوبن إيه آي".

أكثر من 15 واقعة وخلال الشهرين منذ إعلان "أوبن إيه آي" لأول مرة أن.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة العربية