- أعاد إيلون موسك حساب تحليله للتكلفة والعائد لمخاطر الذكاء الاصطناعي على البشرية.
- ويقدر أن هناك فرصة بنسبة 10-20% أن يتمكن الذكاء الاصطناعي من تدمير البشرية، ولكن يجب علينا بنائه على أي حال.
- صرح أحد خبراء سلامة الذكاء الاصطناعي لـ BI أن ماسك يقلل من خطر وقوع كارثة محتملة.
ايلون ماسك من المؤكد تمامًا أن الذكاء الاصطناعي يستحق المخاطرة، حتى لو كان هناك احتمال بنسبة 1 من 5 أن تتحول التكنولوجيا ضد البشر.
وفي حديثه في ندوة “مناظرة عظيمة حول الذكاء الاصطناعي” في قمة الوفرة التي استمرت أربعة أيام في وقت سابق من هذا الشهر، أعاد ماسك حساب تقييمه السابق للمخاطر المتعلقة بالتكنولوجيا، قائلًا: “أعتقد أن هناك فرصة ما في أنها ستؤدي إلى إنهاء البشرية. ربما أتفق مع ذلك”. جيف هينتون إنه حوالي 10% أو 20% أو شيء من هذا القبيل.”
لكنه أضاف: “أعتقد أن السيناريو الإيجابي المحتمل يفوق السيناريو السلبي”.
ولم يذكر ” ماسك ” كيف حسب المخاطر.
ما هو ع (العذاب)؟
قال رومان يامبولسكي، الباحث في مجال سلامة الذكاء الاصطناعي ومدير مختبر الأمن السيبراني بجامعة لويزفيل، لموقع Business Insider، إن ماسك على حق في قوله إن الذكاء الاصطناعي قد يشكل خطراً وجودياً على البشريةولكن “إذا كان هناك أي شيء، فهو متحفظ بعض الشيء” في تقييمه.
“فِعلي ع (الموت) وقال يامبلوسكي في إشارة إلى ذلك: “إنه أعلى بكثير في رأيي”. “احتمال الهلاك” أو احتمال سيطرة الذكاء الاصطناعي على البشرية أو التسبب في حدث ينهي البشرية، مثل إنشاء سلاح بيولوجي جديد أو التسبب في انهيار المجتمع بسبب هجوم إلكتروني واسع النطاق أو حرب نووية.
اوقات نيويورك أطلق على (ع) الموت اسم “الإحصائيات الجديدة المروعة التي تجتاح وادي السيليكون”، حيث استشهد المنفذ بالعديد من المديرين التنفيذيين للتكنولوجيا على أن لديهم تقديرات تتراوح من 5 إلى 50٪ لنهاية العالم التي يقودها الذكاء الاصطناعي. يامبلوفسكي يضع المخاطرة “بنسبة 99.999999%“.
وقال يامبلوسكي إنه لأنه سيكون من المستحيل السيطرة على الذكاء الاصطناعي المتقدم، فإن أملنا الوحيد هو ألا نبنيه في المقام الأول.
وأضاف يامبلوسكي: “لست متأكداً من سبب اعتقاده أن متابعة هذه التكنولوجيا فكرة جيدة على أي حال”. “إذا كان قلقًا بشأن وصول المنافسين إلى هناك أولاً، فلا يهم أن الأمر خارج عن السيطرة الذكاء الفائق بنفس القدر من السوء، بغض النظر عمن أخرجه إلى الوجود.”
“مثل طفل ذكي مثل الله”
وفي نوفمبر/تشرين الثاني الماضي، قال ماسك إن هناك فرصة “ليست صفراً”. قد ينتهي الأمر بالتكنولوجيا إلى “التدهور،“لكنه لم يذهب إلى حد القول إنه يعتقد أن التكنولوجيا يمكن أن تنهي البشرية إذا فعلت ذلك.
على الرغم من أنه كان من المدافعين عن تنظيم الذكاء الاصطناعي، أسس ماسك العام الماضي شركة تدعى xAI، مكرسة لزيادة توسيع قوة التكنولوجيا. xAI منافس لـ OpenAI، وهي شركة شارك ماسك في تأسيسها مع سام ألتمان قبل تنحي ماسك عن مجلس الإدارة في عام 2018.
في القمة، قدر ماسك أن الذكاء الرقمي سيتجاوز كل الذكاء البشري مجتمعًا بحلول عام 2030. وبينما يؤكد أن الإيجابيات المحتملة تفوق السلبيات، أقر ماسك بالمخاطر التي يتعرض لها العالم إذا استمر تطوير الذكاء الاصطناعي في مساره الحالي في بعض أكثر المجالات المباشرة المصطلحات التي استخدمها علانية.
“أنت نوعًا ما تنمو الذكاء الاصطناعي العام. قال ” ماسك ” في حدث وادي السيليكون في 19 مارس، في إشارة إلى الذكاء العام الاصطناعي. “أحد الأشياء التي أعتقد أنها مهمة للغاية لسلامة الذكاء الاصطناعي هو أن يكون لديك أقصى قدر من البحث عن الحقيقة والذكاء الاصطناعي الفضولي.”
قال ماسك “استنتاجه النهائي” فيما يتعلق بأفضل طريقة لتحقيقه سلامة الذكاء الاصطناعي هو تنمية الذكاء الاصطناعي بطريقة تجبره على أن يكون صادقًا.
وقال ماسك عن أفضل طريقة لإبقاء البشر في مأمن من التكنولوجيا: “لا تجبرهم على الكذب، حتى لو كانت الحقيقة غير سارة”. “إنه أمر مهم للغاية. لا تجعل الذكاء الاصطناعي يكذب.”
لقد وجد الباحثون أنه بمجرد أن يتعلم الذكاء الاصطناعي الكذب على البشر، يصبح من المستحيل عكس السلوك الخادع باستخدام تدابير السلامة الحالية الخاصة بالذكاء الاصطناعي. المستقل ذكرت.
“إذا أظهر النموذج سلوكًا خادعًا بسبب المحاذاة الخادعة للأدوات أو تسمم النموذج، فإن تقنيات التدريب على السلامة الحالية لن تضمن السلامة ويمكن أن تخلق انطباعًا زائفًا بالسلامة”. يذاكر نقلا عن منفذ يقرأ.
والأمر الأكثر إثارة للقلق هو أن الباحثين أضافوا أنه من المعقول أن الذكاء الاصطناعي قد يتعلم الخداع من تلقاء نفسه بدلاً من تعليمه الكذب على وجه التحديد.
“إذا أصبح أكثر ذكاءً منا بكثير، فسيكون جيدًا جدًا في التلاعب لأنه كان سيتعلم ذلك منا”، هينتون، الذي يشار إليه غالبًا باسم “الأب الروحي للذكاء الاصطناعي”، والذي يعمل كأساس لـ ” ماسك ” لتقييم المخاطر. من التكنولوجيا، قال سي إن إن. “وهناك أمثلة قليلة جدًا لشيء أكثر ذكاءً يتم التحكم فيه بواسطة شيء أقل ذكاءً.”
لم يستجب ممثلو Musk على الفور لطلب التعليق من Business Insider.