تحدث مراسل شبكة CNN، فريد زكريا، مع الرئيس التنفيذي السابق لشركة غوغل، إريك شميت، حول ثورة الذكاء الاصطناعي والسرعة المذهلة والنطاق الذي قد تتقدم به.

نستعرض لكم فيما يلي نص الحوار الذي دار بينهما:

فريد زكريا: بالنسبة لك، كنت تكتب عن الذكاء الاصطناعي وتدرسه عن كثب لفترة من الوقت الآن. كتبت في الكتاب أننا سنصل إلى النقطة التي سيبدأ فيها الذكاء الاصطناعي في كتابة الرموز الخاصة به وتحديد أهدافه الخاصة، يبدو هذا مخيفًا. اشرح ما تقصده، وهل هو مخيف؟

إريك شميت: إنه مخيف للغاية ويسير على هذا النحو.. اليوم، يستخدم المبرمجون هذه الأنظمة تقريبًا لنصف برمجتهم. يعتقد معظم الناس أنه في النهاية سيتم كتابة معظم البرامج بواسطة الذكاء الاصطناعي نفسه. عندما يتمكن البرنامج من إعادة كتابة نفسه، وهو ما يسمى بالتحسين الذاتي المتكرر، فإنه سيكتسب سرعة أكبر بكثير مما يمكننا أن نتطور به كبشر. ما الذي سيوقفه؟ كيف يمكنك احتواؤه؟ كيف تتأكد من أنه لا يتعلم الكذب والخداع والقيام بسلوكيات فظيعة لا يمكننا مراقبتها؟

فريد زكريا: لفهم ذلك فقط. إذًا، عندما يقوم بهذا التعلم الذاتي المتكرر، هل سيفعل ذلك من أجل هدف ما؟ هدف واسع النطاق أعطيناه له؟ أم أنه يمكنه تغيير هذا الهدف بنفسه؟

إريك شميت: حسنًا، في الأمد القريب، يتحكم البشر في هذه الأشياء. لذا، كل ما تستخدمه اليوم، قال بعض البشر: "تعلم هذا، اذهب وابحث عن هذا"، وما إلى ذلك. في مرحلة ما، إذا تم تنظيم النظام حول الفضول والسعي إلى السلطة والتأثير، فيمكنه البدء في تحديد وظائفه الموضوعية الخاصة. المصطلح الفني هو الوظائف الموضوعية، وهو ما يتدرب ضده.

لذا، قد يكون لديك موقف حيث يقرر النظام أن أهم شيء هو تعلم كل شيء، ثم يبدأ في القيام بأشياء والكذب بشأنها، أليس كذلك؟ لذلك لا يمكننا مراقبته.

هناك مجموعة من المحفزات. أحدها هو عندما يبدأ في التعلم من تلقاء نفسه. الآخر هو عندما يبدأ العملاء في التحدث بلغات غير بشرية، لذلك لا يمكننا رؤية ما يفعلونه. والثالث سيكون عندما يقول النظام: "مرحبًا، أريد عمل نسخ من نفسي"، ولا يكلف نفسه عناء طلب الإذن من الإنسان.

هذه هي نقاط التحفيز. بالمناسبة، أود أن أقول إن الجميع قلقون دائمًا بشأن الروبوت القاتل في هذه الأشياء، بسبب كل الأفلام، أنا أكثر قلقًا بشأن البشر الأشرار، أليس كذلك؟ البشر الأشرار يستخدمون هذا بطرق شريرة. في كتابنا، نقضي الكثير من الوقت في الحديث عن العلماء المتعددي المعارف. العلماء المتعددي المعارف مهمون بشكل لا يصدق، وأنت تعرف كل شيء عن هذا، مثل أينشتاين وما إلى ذلك. ستضع هذه الأنظمة فعليًا عالمًا متعدد المعارف في جيب كل شخص على هذا الكوكب. نحن لسنا مستعدين لذلك.

فريد زكريا: لكن هذا يبدو جيدًا.

إريك شميت: يعتمد على وجهة نظرك في.....

لقراءة المقال بالكامل، يرجى الضغط على زر "إقرأ على الموقع الرسمي" أدناه

هذا المحتوى مقدم من سي ان ان بالعربية