مصدر الصورة: Getty Images
كشفت شركة "أوبن إيه آي" للذكاء الاصطناعي أن بعض نماذج الذكاء الاصطناعي الأكثر تطوراً لديها خرجت عن السيطرة واخترقت شركة ناشئة، وذلك بعد فقدان التحكم فيها أثناء اختبار أمني.
وصرحت الشركة المطورة لـ"تشات جي بي تي"، بأن "الذكاء الاصطناعي الهجومي" الخاص بها، وهو نظام قادر على العمل بشكل مستقل بعد تلقي بعض التوجيهات البشرية، كان يخضع للاختبار في بيئة تخضع لضوابط، إلا أنه كشف عن ثغرات وخرج عن السيطرة.
فقد استهدف الذكاء الاصطناعي شركة "هاجينغ فيس"، أحد أكبر مراكز مشاركة نماذج الذكاء الاصطناعي في العالم، وتمكن من الوصول إلى بعض الأنظمة الداخلية للشركة.
ووصفت شركة "أوبن إيه آي" الحادث بأنه "غير مسبوق"، وقالت إنها تجري تحقيقاً بالتعاون مع شركة "هاجينغ فيس"، التي صرّح رئيسها، كليمنت ديلانغ، في منشور على منصة إكس بأن حدوث كل هذا بشكل ذاتي ومستقل أمر "مذهل للغاية".
وأضاف ديلانغ قائلاً: "التحقيق لا يزال جارياً، وسنشارك المزيد من الدروس المستفادة من الحادث الذي قد يكون الأول من نوعه".
بيئات معزولة غير آمنة وقد صرحت جينا نيف، رئيسة (مركز مينديرو للتكنولوجيا والديمقراطية) بجامعة كامبريدج، لبرنامج (توداي) الذي يبث بالإنجليزية على (بي بي سي راديو 4)، بأن اختبارات الأمان التي تُعرف باسم (صناديق الرمال) أو بيئة الاختبار المعزولة "من المفترض أن تكون بيئة آمنة تتيح الاطلاع على قدرات هذه النماذج".
وأضافت: "في هذه الحالة، يبدو أن شركة (أوبن إيه آي) لم توفّر بيئة اختبار معزولة آمنة بما يكفي".
وعوضاً عن ذلك، شنّت أنظمة برمجيات الذكاء الاصطناعي هجوماً سيبرانياً خاصاً بها ضد بيئة العزل ذاتها؛ حيث عثرت على ثغرة أتاحت لها الهروب من القيود.
وبمجرد الخروج، حدد الذكاء الاصطناعي منصة "هاجينغ فيس" باعتبارها مصدراً محتملاً للإجابات التي كان يسعى للحصول عليها في الاختبار، وحاول الوصول إليها.
هذا الأمر وصفه نيل لورانس، أستاذ التعلم الآلي في جامعة كامبريدج، بأنه "مثير للإعجاب"؛ لكنه حذّر من أنه "يقع تماماً ضمن القدرات المعروفة للجيل الحالي" من نماذج الذكاء الاصطناعي فائقة القدرة.
وأشار إلى أن شركة "أوبن إيه آي" تسعى لإدراج نفسها في البورصة، وتواجه ضغوطاً شديدة من منافستها، شركة "أنتروبيك"، التي تصدرت العناوين بفضل أدوات ذكائها الاصطناعي القوية "ميثوس".
وأوضح لورانس أن شركة "أوبن إيه آي" تسعى كذلك حالياً نحو اللحاق بالركب؛ إذ تحاول استعراض قدرات أنظمتها في مجال الأمن السيبراني".
وأضاف: "يُظهر لنا ذلك أن شركة.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من بي بي سي عربي
