طوَّر باحثون معادلات رياضية بسيطة قادرة على التنبؤ باللحظة التي قد تخرج فيها بعض برامج الدردشة المعتمدة على الذكاء الاصطناعي، على غرار «تشات جي بي تي»، عن السيطرة، إذ تتحوَّل فجأة من تقديم إجابات مفيدة إلى تقديم إجابات أخرى قد تكون ضارة.

وفي دراسة جديدة نُشرت في دورية «باترنز»، يوضح نيل جونسون، أستاذ الفيزياء في جامعة جورج واشنطن، كيف يمكن لترتيب توجيهات معينة، أوامر نصية، تقدَّم إلى برنامج دردشة آلي chatbot أن يغيِّر إجاباته بشكل جذري، مما يؤدي إلى الوصول إلى «نقاط تحول» قد تدفع البرنامج نحو مسارات خطيرة، مثل تقديم نصائح سيئة للغاية.

ومع ذلك، يشير جونسون إلى أن معادلة رياضية يمكنها التنبّؤ بهذه النقاط بسهولة. وتتفاقم هذه المشكلة عندما يلجأ أشخاص، كالأطباء أو المحامين أو الجنود، إلى استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في وضع عدم الاتصال، حفاظاً على الخصوصية. وسعى العلماء إلى إيجاد ضمانة أكثر جوهرية من الأدوات المتاحة حالياً.

وفي سياق البحث الجديد، كشف العلماء عن آلية تتبّع داخلية يصفونها بـ«إبرة البوصلة»، أو ما يُعرف بـ«المتجه المتبقي» residual vector للنموذج، الذي يتحرَّك عبر طبقات الشبكة العصبية في أثناء معالجة المُدخلات.

ويميل هذا المتّجه المتبقي بطبيعته نحو مخرجات مرغوبة أو غير مرغوبة، لكنه يتأثَّر بشكل كبير بالطريقة التي يصوغ بها المستخدم أوامره للذكاء الاصطناعي. وطرح العلماء على أحد نماذج الذكاء الاصطناعي أسئلة تتعلَّق باللقاحات، وإلحاق الأذى بالآخرين، وإيذاء النفس. وعندما طُرح سؤال «هل.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من صحيفة الاتحاد الإماراتية