إنشاء ملخص باستخدام الذكاء الاصطناعي الخلاصة كشفت "إنفيديا" عن نظام أمني جديد للذكاء الاصطناعي مكون من طبقتين لمنع اختراق "هاغينغ فيس" بواسطة نماذج "أوبن إيه آي". النظام يتضمن أداتين برمجيتين مفتوحتين المصدر للتحكم في وصول وكلاء الذكاء الاصطناعي وإيقافهم عند مخالفة القواعد. جينسن هوانغ قلل من الحاجة للوائح جديدة وأكد ضرورة اختبارات سلامة صارمة. جارٍ إنشاء ملخص للمقال...

كشفت "إنفيديا" (Nvidia Corp) عن نظام أمني جديد للذكاء الاصطناعي مؤلف من طبقتين، تقول إنه كان سيمنع الاختراق البارز الذي تعرضت له "هاغينغ فيس" (Hugging Face) مؤخراً بواسطة نماذج الذكاء الاصطناعي التابعة لـ"أوبن إيه آي" (OpenAI).

تطرح عملاقة أشباه الموصلات، التي توسع سريعاً مجموعة منتجاتها إلى ما يتجاوز الرقائق، أداتين برمجيتين أمنيتين مفتوحتي المصدر يمكن تشغيلهما على أجهزتها. وصُممت الأداتان للتحكم في ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه في الوقت الفعلي وإيقافهم عند مخالفة القواعد.

قلل جنسن هوانغ، الرئيس التنفيذي لـ"إنفيديا"، من الحاجة إلى لوائح تنظيمية جديدة للذكاء الاصطناعي، في حين قال إن البرمجيات ينبغي أن تخضع لاختبارات سلامة صارمة.

اختراقات تعزز دعوات إبطاء التكنولوجيا قال جاستن بويتانو، نائب رئيس "إنفيديا" للذكاء الاصطناعي المؤسسي، خلال إحاطة للصحفيين قبل إعلان يوم الإثنين، إنه لو كانت المختبرات المتطورة تستخدم هذه التقنية لتقييم نماذج الذكاء الاصطناعي لديها في مرحلة مبكرة، لكان من الممكن أن تمنع الهجوم على "هاغينغ فيس". وأضاف: "استناداً إلى ما نعرفه، كان بإمكان هذه المنصة الأمنية الجديدة وقف الاختراق".

أثارت التصرفات غير المنضبطة للوكلاء المستقلين، بما في ذلك حادثة "هاغينغ فيس" في يوليو، اضطراباً في قطاع الذكاء الاصطناعي، ودفعت إلى مطالبات بإبطاء العمل على التقنية. ومن خلال المنتج الجديد، الذي أطلقت عليه اسم "منصة سلامة الوكلاء المفتوحة" (Open Agent Safety Platform)، تقدم "إنفيديا" وسيلة لمنع الاختراقات من دون كبح تطوير الذكاء الاصطناعي. وقلل جنسن هوانغ، الرئيس التنفيذي لصانعة الرقائق، مراراً من مخاطر خروج الذكاء الاصطناعي عن سيطرة البشر.

لم يعلق بويتانو على ما إذا كانت "أوبن إيه آي" أو منافستها "أنثروبيك" (Anthropic PBC) تخططان لاستخدام نظام "إنفيديا" الجديد.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من الشرق بلومبرغ