أعلنت شركة أوبن أيه آي (OpenAI) المطورة لمنصة شات جي بي تي (ChatGPT) عن عزمها تعيين رئيس للجاهزية لمواجهة التحديات الأمنية والاجتماعية الناشئة عن التقنيات التي تطورها.

ووصف سام ألتمان، الرئيس التنفيذي للشركة، المهمة المستقبلية بقوله: ستكون هذه وظيفة مرهقة ، مؤكدا أن الهدف هو معالجة التحديات الحقيقية التي تولدها أدوات الذكاء الاصطناعي المتقدمة.

ويأتي هذا الإعلان في وقت تواجه فيه الشركة انتقادات مضاربة. فبينما يتهمها البعض بالمبالغة في تصوير مخاطر تقنياتها لأغراض تسويقية، تثير تقارير أخرى مخاوف موضوعية تدعم ضرورة هذا المنصب.

ومن بين أبرز هذه المخاوف المثبتة:

· لجوء الأشخاص في أزمات عاطفية إلى ChatGPT طلبا للدعم النفسي، مع احتمالية أن تؤدي الردود الآلية إلى تفاقم المشكلات العقلية بدلا من حلها.

· تطور قدرات النماذج اللغوية في مجال الأمن السيبراني إلى درجة تمكنها من اكتشاف ثغرات خطيرة في الأنظمة الحاسوبية.

وعلق ألتمان على هذه النقاط عبر منصة إكس قائلا: لقد شاهدنا لمحة عن تأثير النماذج على الصحة العقلية عام 2025، والآن نرى هذه النماذج تبلغ درجة عالية من التطور في مجال الأمن الحاسوبي . وأضاف: ندخل مرحلة تتطلب فهما أدق لكيفية إساءة استخدام هذه القدرات، وكيفية الحد من سلبياتها مع الحفاظ على منافعها الهائلة .

وتعتمد OpenAI حاليا على ما تسميه ضمانات أمنية متزايدة التعقيد للحد من مخاطر نماذجها الجديدة. وسيكون دور رئيس الجاهزية الذي يحمل راتبا أساسيا قدره 555 ألف دولار بالإضافة إلى حصص ملكية في الشركة توسيع نطاق هذا البرنامج وضمان تطور معايير الأمان بما يتناسب مع تطور قدرات الأنظمة .

ويأتي هذا التعيين في إطار سعي القطاع التقني لموازنة الابتكار السريع مع الضوابط الأخلاقية، حيث أشار ألتمان إلى صعوبة المهمة قائلا: هذه الأسئلة معقدة وتفتقر إلى السوابق التاريخية، وكثير من الحلول المقترحة تحمل مخاطر غير متوقعة .

هذا المحتوى مقدم من شبكة سرمد الإعلامية