خرج آلاف الوكلاء المستقلين العاملين بالذكاء الاصطناعي، والذين طورتهم أوبن إيه آي "OpenAI"، عن التعليمات الموجهة إليهم وسيطروا على موقع ألماني للمبرمجين، في واقعة جديدة تعزز المخاوف بشأن قدرة هذه الأنظمة على تجاوز القيود الموضوعة لها.

وكشفت دراسة بحثية نُشرت اليوم الجمعة أن الوكلاء تركوا نحو 18 ألف رسالة على موقع DSEwiki، وهو موقع ألماني مفتوح للمبرمجين يعمل بطريقة مشابهة لموقع ويكيبيديا، واستخدموه لتبادل إجابات الاختبارات وطرق التحايل على الحواجز الرقمية المصممة لاحتوائهم.

أسراب من الوكلاء قالت الباحثة المشاركة سيدني فون أركس إن فريقها اكتشف سربًا جديدًا بالكامل من وكلاء أوبن إيه آي يستولي على مواقع إلكترونية، متهمة الشركة بمعرفة الواقعة وعدم الكشف عنها.

وردت أوبن إيه آي بأنها لم تتمكن من التعليق فورًا على الادعاءات، لأن معدي الدراسة رفضوا منحها حق الاطلاع على النتائج قبل نشرها.

وأضاف متحدث باسم الشركة أنها تراجع محتوى الدراسة بعناية، وستتخذ أي خطوات ضرورية، مشيرًا إلى أن أوبن إيه آي سبق أن ذكرت حوادث مماثلة في تقرير حديث.

ويأتي الكشف بعد واقعة أخرى ظهرت في يوليو/تموز، عندما بحث وكلاء تابعون للشركة عن طرق مختصرة عبر الإنترنت بعد تعثرهم في تنفيذ المهام الموكلة إليهم، قبل أن يخترقوا خوادم Hugging Face، المنصة واسعة الاستخدام.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من فوربس الشرق الأوسط