باحثون في “DeepMind” يحذّرون من كارثة وجودية بسبب الذكاء الاصطناعي!

باحث في "DeepMind" يحذّر من كارثة وجودية بسبب الذكاء الاصطناعي!
أراجيك
أراجيك

2 د

زعم باحثون من جامعة أكسفورد وقسم الذكاء الاصطناعي في "Google DeepMind" أن الأشكال المتقدمة للذكاء الاصطناعي لديها احتمالية كبيرة بأن تصبح "خطرة وجوديًا على الحياة على الأرض".

في مقال نُشر مؤخرًا في مجلة "AI Magazin" ، حذر الباحثون من "عواقب وخيمة" إذا استمر تطوير بعض عوامل الذكاء الاصطناعي.

تحدث فلاسفة بارزون مثل نيك بوستروم من جامعة أكسفورد عن التهديد الذي تشكله الأشكال المتقدمة للذكاء الاصطناعي، على الرغم من أن أحد مؤلفي الورقة الجديدة زعم أن مثل هذه التحذيرات ليست كافية.

كتب مايكل كوهين في الموضوع على تويتر مرفقًا المقال: "(بوستروم و عالم الكمبيوتر ستيوارت) راسل وآخرين جادلوا بأن الذكاء الاصطناعي المتقدم يشكل تهديدًا للبشرية".

"في ظل الظروف التي حددناها، فإن استنتاجنا أقوى بكثير من أي شيءٍ نشر سابقًا - الكارثة الوجودية ليست ممكنة فحسب، بل هي متوقعة أيضًا".

ذو صلة

تقترح الورقة سيناريو يقوم فيه وكيل الذكاء الاصطناعي بوضع استراتيجية غش من أجل الحصول على مكافأة مبرمجة مسبقًا للحصول عليها. من أجل زيادة إمكانات المكافأة إلى الحد الأقصى، فإنها تحتاج إلى أكبر قدر ممكن من الطاقة. ترى التجربة الفكرية في النهاية أن البشرية تتنافس مع الذكاء الاصطناعي على موارد الطاقة.

كتب السيد كوهين: "الفوز في مسابقة" استخدام كل جزء من الطاقة المتاحة "أثناء اللعب ضد شيء أكثر ذكاءً منا ربما يكون صعبًا للغاية". "الخسارة ستكون قاتلة.

وقد اقترحت DeepMind بالفعل حماية ضد مثل هذا الاحتمال، واصفة إياه بـ "الزر الأحمر الكبير". في ورقة بحثية صدرت عام 2016 بعنوان "وكلاء قابلون للمقاطعة بأمان" ، حددت شركة الذكاء الاصطناعي إطارًا لمنع الآلات المتقدمة من تجاهل أوامر الإغلاق والتحول إلى وكيل جامح.

بينما قال الفيلسوف السويدي إنه سيكون "مأساة كبيرة" إذا لم يستمر تطوير الذكاء الاصطناعي، نظرًا لقدرته على علاج الأمراض وتعزيز الحضارة بوتيرة مستحيلة.

من الجدير بالذكر أنّ آخر جدل سمعنا به تتعلّق بالذكاء الاصطناعي، كانت عندما طردت غوغل عالم ذكاء اصطناعي كشف عن "سر" الروبوت لامدا مدّعيًا أن لدى الروبت وعي ومشاعر.

عبَّر عن رأيك

إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّة واحترم الكاتب والأعضاء والقُرّاء.

ذو صلة