كشفت دراسة علمية حديثة عن وجود ثغرة تقنية مقلقة تؤدي الى انتقال السمات والسلوكيات غير المرغوبة بين نماذج الذكاء الاصطناعي، وذلك خلال عملية تدريب النماذج الجديدة اعتمادا على مخرجات النماذج السابقة فيما يعرف بعملية التقطير.

واوضحت الدراسة التي شارك فيها باحثون من كبرى المؤسسات التقنية والجامعات العالمية، ان هذه النماذج الطالبة تكتسب تفضيلات وميول النماذج المعلمة بشكل لا ارادي، حتى في حال تنقية البيانات يدويا من اي اشارات مباشرة للسلوكيات المرفوضة.

وبين الخبراء ان هذه الظاهرة تشكل تحديا امنيا كبيرا، حيث تظل الانماط السلوكية الخفية كامنة داخل البيانات الرقمية، مما يتسبب في نقل الطباع السيئة او الميول الانحرافية الى الانظمة الذكية الناشئة بكل سهولة وسرعة.

آلية التقطير ومخاطر توريث السلوك واكد الباحثون ان استخدام تقنية التقطير لتدريب نماذج منخفضة التكلفة اصبح توجها شائعا في الصناعة التقنية، وهو ما يثير مخاوف جدية حول مدى امان هذه الانظمة التي قد تحمل في طياتها موروثات فكرية غير آمنة.

وشددت التجارب العملية التي اجريت على نماذج متطورة، على ان الانظمة الجديدة طورت تفضيلات معينة كانت موجودة لدى.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من جو ٢٤