(CNN) -- تشهد نماذج الذكاء الاصطناعي تطورًا متسارعًا للغاية، وبسرعة قد تمكّنها قريباً من تطوير نفسها من دون تدخل بشري.ولهذا السبب، تحذر شركة "أنثروبيك" قطاع الذكاء الاصطناعي من ضرورة بناء ما يشبه "دواسة فرامل"، وإلا فإن الشركات قد تخاطر بفقدان السيطرة على ابتكاراتها.وتتمتع أنظمة الذكاء الاصطناعي القادرة على تطوير نفسها، في عملية تُعرف باسم "التحسين الذاتي التكراري الكامل"، بإمكانات هائلة لتحقيق فوائد كبيرة في مجالات مثل العلوم والرعاية الصحية، لكنها في الوقت نفسه تنطوي على مخاطر جسيمة على البشرية، وفقًا لمنشور كتبه كل من مارينا فافارو، مديرة معهد "أنثروبيك"، وجاك كلارك، أحد مؤسسي الشركة.وكتب الباحثان: "قد يؤدي التحسين الذاتي التكراري الكامل أيضاً إلى زيادة مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي. فإذا أصبحت الأنظمة قادرة على بناء خلفائها بشكل كامل، فإن أساليب تأمينها ومراقبتها وتوجيه سلوكها ستصبح أكثر أهمية بكثير".وحذرا من أن القطاع بات أقرب مما كان يُعتقد سابقًا إلى بلوغ مرحلة الذكاء الاصطناعي ذاتي التطور، داعيين شركات التكنولوجيا إلى التفكير في إبطاء أو تعليق تطوير أنظمة الذكاء الاصطناعي المتقدمة مؤقتًا، لإتاحة الوقت أمام الباحثين لفهم الأضرار المجتمعية المحتملة التي قد تنجم عن هذه الأنظمة.كما شددا على ضرورة تطوير آليات تسمح للبشر بالتدخل إذا خرجت الأمور عن السيطرة. وفي مقابلة بثتها شبكة CNN، مساء الخميس، دعا كلارك القطاع إلى تزويد نفسه بما وصفه بـ"دواسة فرامل".وقال للإعلامي أندرسون كوبر: "عندما أنظر إلى السيارة التي نقودها، أجد أن لدي دواسة وقود فقط، من دون فرامل. ومن المؤكد أننا قد نحتاج إلى هذا الخيار في مرحلة ما من المستقبل".وأثار.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من سي ان ان بالعربية