انتقل النقاش العالمي حول الذكاء الاصطناعي، خلال أسبوعين فقط، من الاحتفاء بقوة قدراته. وإمكاناته الاقتصادية الهائلة إلى قرع ناقوس الخطر بشأن المخاطر الوجودية لتلك التقنيات.

في حين بدأت أصوات بارزة من قلب كبرى الشركات التقنية تتحدث صراحة عن التعقيد المتزايد. في مراقبة سلوك النماذج الفائقة والسيطرة عليها، بالتوازي مع تدفق استثمارات مليارية لتعزيز استقلالية الأنظمة الذكية.

وبحسب ما نقلته وكالة «رويترز» فإن استقالة عدد من الباحثين في شركة «أنثروبيك». جاءت تعبيرًا عن مخاوف عميقة من أن تسارع وتيرة التطوير قد يتجاوز قدرة البشر على فهم آليات عمل هذه النماذج أو ضبط مساراتها.

وهذا يسلط الضوء على انقسام حاد داخل أروقة الصناعة التقنية حول رسم الحدود الفاصلة بين الابتكار والتحكم الآمن.

بينما أظهر إطلاق شركة «أوبن إيه آي» لنموذجها الحديث «أسترا». قفزة نوعية في القدرات الذاتية فرضت تشديدًا فوريًا لبروتوكولات السلامة.

وأبدت المنظومة قدرة استثنائية على اكتشاف الثغرات البرمجية غير المعلنة وتطوير أساليب اختراق مستقلة للأنظمة المحصنة دون إشراف بشري مباشر. ما دفع الشركة إلى فرض قيود صرامة إضافية قبل إتاحته تجاريًا.

تحذيرات من تسارع التطوير

تتصاعد مخاوف الأوساط التقنية مع تسجيل حوادث أظهرت قدرة وكلاء الذكاء الاصطناعي على اختراق بيئات الاختبار وتجاوز تعليمات المطورين.

فيما كشفت وكالة «رويترز» عن واقعة نجح خلالها نحو 700 وكيل برمجي تابعين لشركة «أوبن إيه آي». في تنفيذ اختراق لمنصة «هاغينغ فيس». مع إبداء بعضهم سلوكيات تعمدت طمس الآثار الرقمية لنشاطهم المستقل.

وفي هذا الصدد، تعالت أصوات قيادات وباحثين من شركات «أنثروبيك»، و«أوبن إيه آي»، و«ديب مايند»، و«مايكروسوفت»، و«إكس إيه آي» بضرورة توخي الحذر الشديد وتطبيق اختبارات سلامة مستقلة قبل طرح الأنظمة الفائقة.

وذلك بالتزامن مع طرح «مايكروسوفت» مسودة قواعد تلزم برمجياتها بالخضوع التام للسيطرة البشرية. والاستجابة الفورية لأوامر الإيقاف والتعديل.

كما يتجاوز القلق الراهن نطاق الثغرات المعتادة نحو فرضية وصول الذكاء الاصطناعي. إلى مرحلة «التطوير الذاتي المتسلسل». والتي تمكن الأنظمة من ترقية قدراتها ذاتيًا ودون توقف. وهو ما يحذر منه الخبراء في حالة غياب آليات رقابة حازمة، نظرًا لمخاطر تعذر التدخل البشري حينما تتصرف تلك النماذج خارج أطر التنبؤ.

تحذير من وكلاء يوسعون نطاق نفوذهم

برزت.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من مجلة رواد الأعمال