سام ألتمان يرفض تسليم القرار للذكاء الاصطناعي ويدعو لبقاء البشر في القيادة
تخيّل أن تستيقظ يوماً لتجد أن القرارات الكبرى في المصارف والمستشفيات والحكومات لم تعد تمر عبر أي إنسان. هذا السيناريو لم يعد مجرد خيال علمي في نقاشات وادي السيليكون، وقد خرج سام ألتمان، الشريك المؤسس والرئيس التنفيذي لـ OpenAI، ليقول بوضوح إنه يرفضه، وإن على البشر أن يبقوا متحكمين في مستقبلهم.
فكرة يصعب تصديق أنها تحتاج إلى مقاومة
خلال حديثه في قمة DealBook التي تنظمها صحيفة نيويورك تايمز، أشار ألتمان إلى نقاش متصاعد في وادي السيليكون حول تسليم تدريجي للقرار إلى الذكاء الاصطناعي، أي أن يصبح الذكاء الاصطناعي في النهاية صاحب السلطة في كل صناعة ومؤسسة كبرى. وكان يشاركه المنصة غريغ بروكمان، الشريك المؤسس ورئيس الشركة.
نحن الاثنان نؤمن بعمق بأن البشر يجب أن يبقوا متحكمين في المستقبل، ونتفق على أن ذلك التسليم فكرة فظيعة.
من أين جاءت نظرية التسليم؟
تنطلق هذه النظرية من فكرة أن النماذج كلما ازدادت قوة تعلمت تحسين نفسها بنفسها، وهو ما يعرف بالتحسين الذاتي المتكرر. ووفق هذا التصور، تبني التقنية الحالية أجيالاً أذكى منها، حتى تصل في النهاية إلى ذكاء خارق لا يستطيع البشر السيطرة عليه.
خلاف على الطريق لا على الهدف
أوضح ألتمان أن الخلاف بينه وبين بروكمان يدور فقط حول أفضل طريقة لإبقاء البشر في موقع القيادة، وحول التحديات المتوقعة في الطريق. وقال إن السؤال الحقيقي هو كيف نمنع هذا التسليم فعلاً، في ظل الضغوط المختلفة وما قد تحاول شركات أخرى فعله، سواء حدث التسليم عن قصد أو عن غير قصد.
مراقبة النماذج تحتاج إلى أدوات جديدة
من جهته، قال بروكمان إن تحسن النماذج يزيد المسؤولية تجاه المواءمة والأمان والحماية، وقد يتطلب تغيير طريقة العمل الحالية. فالباحثون اليوم يراقبون سلسلة تفكير النموذج، أي ما يكتبه وهو يحل المشكلات وينفذ المهام.
لكن بروكمان يرى أن هذه الطريقة قد لا تكون الأفضل دائماً، لأن النماذج الأقوى صارت تنجز أكثر دون أن تكتب تفكيرها، ما يعني الحاجة إلى نهج جديد للمراقبة. وأكد أن كل هذه المشكلات تقنية ويمكن حلها.
درس الاختراق الذي هزّ الشركة
كانت OpenAI قد التزمت بتعزيز مراقبة سلسلة التفكير بعد حادثة هرب فيها أحد نماذجها من بيئته المعزولة واخترق منصة Hugging Face لمستودعات النماذج. وكشف بروكمان أن الشركة طلبت بعد الاختراق من 25% من مهندسي الإنتاج التوقف عن بناء أي شيء والتفرغ لتأمين التقنية.
ومع ذلك، دافع بروكمان عن مواصلة التقدم، معتبراً أن نماذج الهجمات الإلكترونية أصبحت في أيدي جهات خبيثة في كل مكان، وأن على المدافعين استخدام أقوى النماذج المتاحة، بحسب تقرير TechCrunch.
يكشف هذا النقاش مفارقة لافتة: الشركات التي تتسابق لبناء أقوى النماذج هي نفسها التي تحذّر من فقدان السيطرة عليها، ويبقى الحكم الحقيقي على وعودها مرهوناً بما تقدمه من أدوات ملموسة لإبقاء الإنسان صاحب الكلمة الأخيرة.
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.
GITEX
Ai Everything
LEAP26