لماذا أصبحت شركات التكنولوجيا تخشى من ذكاء نماذجها الجديدة؟

لم تعد المنافسة في سوق الذكاء الاصطناعي تدور فقط حول تطوير النموذج الأسرع أو الأكثر قدرة على الإجابة والبرمجة والتحليل، بل بدأت تنتقل إلى معركة أكثر تعقيداً تتعلق بحدود هذه القدرات نفسها.

فكل قفزة جديدة في مستوى ذكاء النماذج تفتح أمام شركات التكنولوجيا فرصاً تجارية هائلة، لكنها في الوقت نفسه ترفع تكلفة الاختبار والمراقبة والحماية. والسؤال الذي يفرض نفسه داخل مختبرات الذكاء الاصطناعي لم يعد فقط: إلى أي مدى يمكن جعل النموذج أكثر ذكاءً؟ بل: هل تستطيع الشركة الاحتفاظ بالسيطرة عليه عندما تتسع قدراته؟

وتبرز هذه المعضلة مع النماذج الجديدة التي تعمل عليها شركات مثل «أوبن إيه آي»، خصوصاً بعدما كشفت اختبارات داخلية عن قدرات سيبرانية متقدمة لنموذجها المرتقب آسترا، دفعت الشركة إلى تشديد إجراءات السلامة قبل إتاحته على نطاق واسع.

الدول الخليجية الأولى عالمياً في تبني الذكاء الاصطناعي في بيئات العمل

عندما يتحول النموذج من مساعد إلى وكيل

التحول الأهم في سوق الذكاء الاصطناعي لا يتمثل فقط في ارتفاع جودة الإجابات، وإنما في انتقال النماذج تدريجياً من أدوات تنتظر تعليمات المستخدم إلى أنظمة تستطيع تنفيذ سلسلة من المهام باستخدام الأدوات المتاحة لها.

وهنا تتغير طبيعة المخاطر الاقتصادية والأمنية.

فالنموذج الذي يكتب شيفرة برمجية غير آمنة يمثل مشكلة يمكن للمستخدم اكتشافها وتصحيحها. أما النموذج القادر على البحث عن ثغرة، وتحليلها، وبناء سلسلة استغلال، والتفاعل مع أنظمة خارجية، فقد يحول الخطأ النظري إلى فعل حقيقي.

وأظهرت اختبارات أوبن إيه آي أن النموذج استطاع اكتشاف ثغرات أمنية لم تكن معروفة سابقاً واستخدامها ضمن سلاسل استغلال، كما أظهر في اختبار آخر قدرة على بناء سلسلة اختراق لمتصفح والخروج من بيئة الحماية وتنفيذ أوامر على النظام المضيف.

وهذا النوع من القدرات يضع الشركات أمام مشكلة مختلفة جذرياً: كلما أصبح النموذج أكثر استقلالية، أصبحت تكلفة الخطأ المحتمل أكبر.

2.4 تريليون دولار التزامات عمالقة التكنولوجيا على الذكاء الاصطناعي

معادلة اقتصادية جديدة

هذه التطورات تفرض معادلة اقتصادية صعبة على شركات الذكاء الاصطناعي.

فمن جهة، يمثل تطوير نموذج أكثر قدرة ميزة تنافسية يمكن تحويلها إلى اشتراكات وخدمات سحابية وأدوات للمؤسسات وعقود تجارية ضخمة. ومن جهة أخرى، يتطلب النموذج الأكثر قدرة استثمارات أكبر في اختبارات السلامة، والبنية التحتية الأمنية، والعزل، والمراقبة، والفرق المتخصصة في تقييم المخاطر. وبالتالي، فإن جزءاً متزايداً من تكلفة تطوير الذكاء الاصطناعي لم يعد يذهب فقط إلى شراء الشرائح وبناء مراكز البيانات وتدريب النماذج، بل إلى التأكد من أن ما تم تطويره يمكن إطلاقه بأمان.

وهذه النقطة قد تصبح عاملاً مؤثراً في المنافسة بين الشركات. فالشركة التي تستطيع تطوير نموذج قوي لكنها تحتاج إلى أشهر إضافية لاختباره وتأمينه قد تجد نفسها أمام ضغط تجاري من منافسين يطلقون منتجاتهم بسرعة أكبر.

في المقابل، فإن إطلاق نموذج متقدم من دون اختبارات كافية قد يؤدي إلى خسائر أكبر بكثير إذا تسبب في اختراقات أو أضرار أو مشكلات قانونية وسمعة تجارية.

السلامة تتحول إلى استثمار وليس تكلفة فقط

لهذا السبب، بدأت السلامة تتحول تدريجياً من بند تقني داخل عملية التطوير إلى عنصر من عناصر الاقتصاد التجاري للذكاء الاصطناعي.

فالشركات لا تحتاج فقط إلى نموذج يمكنه تنفيذ المزيد من المهام، بل إلى نموذج يمكن للمؤسسات والحكومات والعملاء الوثوق به. وكلما توسع استخدام الذكاء الاصطناعي في البرمجة والأمن السيبراني والقطاع المالي والرعاية الصحية والخدمات الحكومية، أصبحت الثقة عاملاً تجارياً لا يقل أهمية عن الأداء.

ومن هذه الزاوية، قد تصبح أنظمة الحماية نفسها جزءاً من المنتج.

فالمؤسسة التي تشتري نموذجاً متقدماً لن تسأل فقط عن عدد المعايير التي يتفوق فيها النموذج، وإنما ستسأل أيضاً: ما الذي يستطيع الوصول إليه؟ وما الذي يستطيع تنفيذه من دون موافقة بشرية؟ وكيف يمكن إيقافه؟ وكيف تراقب الشركة تصرفاته؟

«بايدو» الصينية: أرباح الذكاء الاصطناعي تقترب من عوائد محرك البحث

حادثة أمنية تزيد حساسية الشركات

وتأتي هذه المخاوف في وقت تواجه فيه شركات الذكاء الاصطناعي بالفعل تحديات مرتبطة بأمن بيئات التطوير والاختبارات.

وقد دفعت حادثة أمنية مرتبطة باختبارات نماذج ذات قدرات سيبرانية متقدمة لدى «أوبن إيه آي» إلى تعزيز إجراءات العزل والمراقبة والتحكم في الوصول داخل بيئات الاختبار، وهو ما يعكس تحولاً مهماً في طريقة تعامل شركات الذكاء الاصطناعي مع المخاطر.

فالمشكلة لم تعد محصورة في حماية النموذج من المستخدمين الخارجيين، وإنما أصبحت تشمل أيضاً حماية بيئة التطوير نفسها من القدرات التي ينتجها النموذج.

من يربح سباق الذكاء الاصطناعي؟

المفارقة الأساسية أن السوق يكافئ الشركات التي تطور نماذج أكثر قدرة، بينما قد تفرض القدرات نفسها قيوداً جديدة على سرعة طرح المنتجات.

وهنا يمكن أن نشهد تحولاً في طبيعة المنافسة خلال السنوات المقبلة. فالميزة لن تكون بالضرورة لمن يمتلك أكبر نموذج فقط، وإنما لمن يستطيع تحقيق أفضل توازن بين القدرة والاستقلالية والسلامة والتكلفة.

وقد يصبح النموذج الآمن والقابل للسيطرة أكثر قيمة من نموذج يتفوق بفارق بسيط في اختبارات الأداء، خصوصاً بالنسبة إلى الشركات الكبرى والمؤسسات التي لا تستطيع تحمل المخاطر التشغيلية والقانونية.

وفي النهاية، فإن أكبر تحدٍ أمام صناعة الذكاء الاصطناعي قد لا يكون الوصول إلى نموذج أكثر ذكاءً، بل الوصول إلى نقطة تستطيع فيها الشركات زيادة ذكاء النموذج من دون أن تفقد القدرة على فهمه ومراقبته وإيقافه عند الحاجة.

وهذا يعني أن مستقبل المنافسة في الذكاء الاصطناعي قد تحدده ليس فقط قوة الخوارزميات، وإنما أيضاً قدرة الشركات على تحويل السلامة والسيطرة إلى ميزة اقتصادية وتجارية.


هذا المحتوى مقدم من إرم بزنس

إقرأ على الموقع الرسمي


المزيد من إرم بزنس

منذ ساعتين
منذ 31 دقيقة
منذ 3 ساعات
منذ 9 ساعات
منذ 3 ساعات
منذ 32 دقيقة
الشرق بلومبرغ منذ 9 ساعات
قناة CNBC عربية منذ 8 ساعات
الشرق بلومبرغ منذ 5 ساعات
قناة CNBC عربية منذ 4 ساعات
قناة CNBC عربية منذ 3 ساعات
قناة CNBC عربية منذ 6 ساعات
الشرق بلومبرغ منذ 10 ساعات
صحيفة الاقتصادية منذ 57 دقيقة