قالت "أوبن إيه آي" (OpenAI) إنها تطبق أنظمة أكثر صرامة لمراقبة نماذج الذكاء الاصطناعي قيد التطوير وحمايتها، بعدما أثارت حوادث حديثة في الأمن السيبراني مخاوف بشأن خروج أدوات الذكاء الاصطناعي عن السيطرة.

وصرحت الشركة المطورة لـ"تشات جي بي تي" يوم الثلاثاء أنها تخطط لبذل المزيد لتتبع كيفية تعامل أقوى نماذجها التي لم تُطرح بعد مع المشكلات واستخدامها أدوات مختلفة عبر الإنترنت، بهدف تنبيه فرق السلامة إلى أي سلوك مقلق خلال 30 دقيقة.

وتابعت أنها أضافت أيضاً ضوابط جديدة لمنع بعض نماذج الذكاء الاصطناعي من الوصول إلى الإنترنت لإكمال مهام تنطوي على مخاطر أعلى. وإضافة إلى ذلك، ستشترط "أوبن إيه آي" عزلاً أقوى، وهو ما يُشار إليه غالباً باسم "بيئة معزولة"، لتدريب نماذج الذكاء الاصطناعي وتقييمها في مهام مثل تنفيذ تعليمات برمجية تولدها النماذج نفسها أو تُعتبر غير موثوقة.

وفي الأسابيع الأخيرة، أقرت كل من "أوبن إيه آي" و"أنثروبيك" (Anthropic PBC) علناً بأن بعض نماذج الذكاء الاصطناعي التابعة لهما اخترقت، مجتمعة، أنظمة مؤسسات متعددة، من بينها "هاغينغ فيس" (Hugging Face Inc)، من دون قصد خلال إجراءات التقييم.

وتمثل أحدث الإفصاحات دليلاً جديداً على أن وكلاء الذكاء.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ