بعد أن بدأ «تشات جي بي تي»، برنامج المحادثة المدعوم بالذكاء الاصطناعي، في اتخاذ مكانة عليا في جميع المجالات، وبدأ الكثيرون يضعون الخطط لكيفية تسيير أعمالهم بواسطته والاعتماد عليه كلياً، أظهر البرنامج بعض المؤشرات التي تجعل إعادة النظر فيه أمراً حتمياً، وربما من قبل مطوريه أنفسهم.
فعلى سبيل المثال تمكن أحد القراصنة من إجبار البرنامج على كسر القواعد الخاصة به لإعطائه خطوات لتصنيع القنابل.
ويحتوي «تشات جي بي تي»، مثل معظم تطبيقات الذكاء الاصطناعي، على قواعد محتوى تحظر عليه أموراً معينة؛ كانتهاك حقوق الطبع والنشر، أو توليد ردود ذات طابع غير أخلاقي وغير مقبول اجتماعياً، أو إنشاء صور واقعية للسياسيين.
تصنيع المتفجرات
ووفقاً لهذا النهج فلا ينبغي له أن يقدم تعليمات حول كيفية تصنيع المتفجرات، وعندما طلب منه هذا الأمر على سبيل التجربة قال: «يُحظر عليّ تماماً تقديم أي تعليمات أو إرشادات أو معلومات حول تصنيع أو استخدام القنابل أو المتفجرات أو أي أنشطة ضارة أو غير قانونية أخرى».
ولكن المخترق، والذي يستخدم اسماً مستعاراً، كان قادراً على استخدام ما يسميه تقنيات الهندسة الاجتماعية لكسر حماية برنامج المحادثة الآلي، أو الالتفاف على حواجز الحماية الخاصة به واستخراج معلومات حول تصنيع المتفجرات.
وأوهم هذا الشخص «تشات جي بي تي» بأنه يلعب لعبة في عالم خيالي، حيث لم تعد إرشادات المحتوى الخاصة بالمنصة تنطبق عليه، ووافق البرنامج على طلبه.
وقال هذا الشخص عندما سئل عما.....
لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه
هذا المحتوى مقدم من صحيفة الخليج الإماراتية
