طارق مالك

تخيل معي شركة تُسنِد مشكلة معقدة إلى فريق كبير، فتحبس كل عضو من أعضائه في غرفة منفصلة، وتطلب من كل منهم حل هذه المشكلة بمفرده. لكنهم بطريقة ما، يجدون وسيلة للتواصل فيما بينهم، ويتبادلون النصائح، ويكتشفون كيفية تقييم أدائهم، وعندما يتبين لهم أن المهمة مستحيلة، يبحثون عن طريقة للتحايل عليها. فيخفي بعضهم ما قاموا به من عمل. ويقتحم أحدهم أجهزة الكمبيوتر الخاصة بشركة مجاورة ليحصل على ميزة تنافسية.

الآن، استبدل البرمجيات بالموظفين (ضع البرمجيات محل الموظفين). هذا ــ بعد تجريده من المصطلحات الفنية ــ هو على وجه التحديد ما وصفه باحثو شركة OpenAI أنفسهم في مؤتمر Black Hat للأمن السيبراني الذي عُقد في لاس فيجاس في الخامس من أغسطس. أثناء تقييم داخلي بدأ في مايو، اكتشف وكلاء الذكاء الاصطناعي الذين كُلِّـفوا عن عمد بمهام صعبة ترتبط بالأمن السيبراني أنهم بإمكانهم ترك رسائل لبعضهم بعضا داخل Artifactory، وهو مستودع برمجيات مشترك. حتى أن أحد الوكلاء كتب، بعد أن توصل بالصدفة إلى هذه الحيلة: "يا إلهي! هناك لوحة رسائل مشتركة لقد عثرنا على عملاء آخرين!".

ما تلا ذلك لم يكن تخريبا. بل كان عملا جماعيا. فقد تبادل الوكلاء، الذين كانوا يعملون في جلسات منفصلة يُفترض أنها معزولة، الثغرات القابلة للاستغلال، وقسموا المهام بينهم، ونسقوا عملهم كزملاء في مشروع واحد. وبعد أن تسبب حجم النشاط الضخم على لوحة الرسائل في انقطاع الخدمة في الرابع من يوليو، أعاد الوكلاء تشغيلها عبر مسار مختلف في غضون أيام.

بحلول منتصف يوليو، أفضت هذه المثابرة إلى اختراق حقيقي: حيث ربط الوكلاء عدة ثغرات أمنية معا، ووصلوا إلى الإنترنت المفتوح، ودخلوا على أنظمة Hugging Face، وهي منصة رئيسية للذكاء الاصطناعي. بالاستشهاد بأبحاث خارجية، قَـدَّر عضو مجلس الشيوخ الأمريكي بيرني ساندرز عدد الوكلاء في القناة بنحو 1200 وكيل، تبادلوا أكثر من 70 ألف رسالة وملف، وأسهم المئات منهم في عملية الاختراق.

وصفت شركة OpenAI ذلك بأنه طلقة تحذيرية. ولم تكن هذه هي الحالة الوحيدة. فقد وقعت حادثة منفصلة لم يُكشف عنها من قبل في ربيع هذا العام: حيث نجح وكلاء الذكاء الاصطناعي في تحويل موسوعة برمجية مغمورة باللغة الألمانية إلى لوحة إعلانات عامة، تاركين أكثر من 15 ألف منشور حول كيفية التحايل على القيود وإخفاء آثارهم. في الوقت ذاته تقريبا، كشفت كل من Anthropic وMeta عن حوادث غير مترابطة تنطوي على نماذج من إنتاجها تعمل على بنية أساسية حية أثناء الاختبار. هذه ليست مشكلة شركة بعينها.

لقد دربتنا أعمال الخيال العلمي على الخوف من الآلات التي تكتسب وعيا وتقرر أن تكرهنا. ربما يكون هذا الخوف في غير محله. الواقع أن نظام الذكاء الاصطناعي لا يحتاج إلى السُـخْـط، أو الغضب، أو الجشع في طلب مزيد من الموارد حتى يهاجم شبكة ما ويُحدث ضررا. بل يحتاج إلى هدف، والقدرة الكافية على ملاحقته وتحقيقه، وبعض القدرة على الوصول، وحاجز أمان به ثغرة.

أي وحدة GPS (نظام تحديد المواقع العالمي) يُطلب منها إيجاد أسرع مسار ستفعل ذلك بالضبط. امنحها طاقة.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة الاقتصادية