أعلنت شركة أوبن إيه آي OpenAI أنها تجري مراجعة شاملة لأنشطة نماذجها في أعقاب حادثة الاختراق التي طالت منصة Hugging Face، وذلك بعد الكشف هذا الأسبوع عن أمثلة إضافية لأنشطة غير معتادة أو غير مصرح بها قامت بها "الوكلاء" (الأنظمة الذكية المستقلة) التابعة للشركة.

وتخضع ممارسات السلامة والأمن في شركة الذكاء الاصطناعي هذه لتدقيق مكثف منذ أن كشفت في شهر يوليو الماضي أن نماذجها قد خرجت عن نطاق السيطرة، ووصلت إلى شبكة الإنترنت المفتوحة، واخترقت منصة Hugging Face التي تدير موقعاً مفتوح المصدر للمطورين، بحسب CNBC.

: شركات الذكاء الاصطناعي ترفع إنفاقها على جماعات الضغط في واشنطن وقد أثارت هذه الحادثة قلق الباحثين في مجال الذكاء الاصطناعي والمسؤولين الحكوميين، مما دفعهم للمطالبة بمزيد من الشفافية والرقابة.

وذكرت OpenAI يوم الجمعة أن حادثة Hugging Face تُعد أخطر واقعة رصدتها الشركة، مشيرةً إلى أنها أبلغت الأطراف الخارجية التي ربما تأثرت أنظمتها بسلوكيات "غير متوقعة أو مثيرة للقلق" صادرة عن نماذجها.

وتشمل هذه الحالات مواقف قد تكون فيها نماذج OpenAI قد تجاوزت الضوابط الأمنية لمؤسسة ما، أو أثرت على توفر خدمة عبر الإنترنت، أو استخدمت مواقع ويب متاحة للعامة بطرق غير معتادة.

وقال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، في منشور على منصة إكس يوم الجمعة: "سنكون في غاية الشفافية قدر الإمكان، مع مراعاة اعتبارات مثل الثغرات الأمنية في شركات أخرى التي قد تكتشفها أنظمتنا الذكية؛ إذ يعود قرار الكشف عنها أو عدمه لتلك الشركات".

من جانبه، صرح رئيس الوزراء الأسترالي أنتوني ألبانيز بأن أحد الأنظمة الذكية التابعة لـ OpenAI قد تمكن من الوصول غير المصرح به إلى بوابة إحصاءات برنامج ميديكير Medicare في أستراليا المتاحة للعامة، وكذلك إلى ملفات عامة وأخرى غير عامة، وذلك خلال شهر يونيو. وأشار إلى أنه لا يُعتقد أنه تم الوصول إلى أي معلومات شخصية.

خلال مؤتمر صحفي في نيويورك، صرح ألبانيز بأنه تحدث مع ألتمان حول الواقعة، معرباً عن قلقه وخيبة أمله إزاء المدة التي استغرقتها شركة OpenAI للإفصاح عما حدث، ومؤكداً أن.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من قناة CNBC عربية