ناديلا يدعو إلى «كبح طارئ» للذكاء الاصطناعي وضمان قدرة البشر على إيقاف نماذجه عند الضرورة

أحياناً لا تكمن المشكلة في ذكاء النظام، بل في اللحظة التي نكتشف فيها أن أحداً لا يملك زر الإيقاف. من هذه الزاوية تحديداً جاءت مداخلة ساتيا ناديلا، رئيس مايكروسوفت التنفيذي، حين دعا إلى فرض احتواء صارم على أنظمة الذكاء الاصطناعي المتقدمة، مع وجود ضوابط مستقلة وآلية طوارئ تسمح بإيقاف النموذج أو تعطيله أثناء تنفيذ المهمة. الفكرة تبدو تقنية في ظاهرها، لكنها في العمق تعيد تعريف العلاقة بين النموذج، والمشغل، والجهة التي تملك القرار.

بحسب ما نُقل عن ناديلا في تقارير Bloomberg وCNBC، فإن الشركات لا ينبغي أن تعتمد فقط على الوعود الصادرة من مطوري النماذج. ما يطرحه هنا أقرب إلى فلسفة تشغيلية كاملة: افترض أن النموذج قد يتصرف على نحو غير متوقع، ثم صمّم البنية من البداية بحيث يمكن احتواؤه، مراقبته، وإيقافه فوراً.

هذا الطرح مهم لأن كثيراً من النقاش حول سلامة الذكاء الاصطناعي ظل يدور حول جودة النموذج نفسه، بينما يشير ناديلا إلى طبقة أخرى أكثر حساسية: البيئة التي يُنشر فيها النموذج، والأدوات التي تمنحه صلاحيات فعلية داخل الأنظمة، من تنفيذ أوامر إلى التعامل مع بيانات أو التفاعل مع خدمات خارجية.

أحد أكثر ما يلفت النظر في موقف مايكروسوفت هو دعوة الشركات إلى التعامل مع النماذج القوية كما لو كانت تهديداً داخلياً محتملاً. هذا التعبير ليس بلاغياً بقدر ما هو مستعار من عالم الأمن السيبراني، حيث يُفترض أحياناً أن الخطر قد يأتي من داخل الشبكة نفسها، لا من الخارج فقط.

عملياً، يعني ذلك أن النموذج لا يجب أن يحصل على ثقة مطلقة، حتى لو كان دقيقاً في أغلب الوقت. يجب عزله، وتقليص صلاحياته، وفصل تنفيذه عن الطبقة التي تنسق عمله. هنا تظهر فكرة الفصل بين الذكاء والسلطة: يمكن للنموذج أن يقترح، يحلل، ويتنبأ، لكن قرار التنفيذ النهائي يجب أن يبقى خاضعاً لضوابط حتمية وبشرية وقابلة للتدقيق.

ناديلا تحدث أيضاً عن ما سماه مبادئ القابلية للرصد، وهي مجموعة من الممارسات التي تبدو أقرب إلى هندسة أنظمة حرجة منها إلى مجرد تطوير برمجيات ذكية. من بينها استخدام أكثر من نموذج، وتسجيل كل فعل مهم بصيغة مفهومة للبشر، وإجراء اختبارات مستمرة، وتوفير أدوات تحكم مستقلة، إضافة إلى التدقيق والإفصاح عن الحوادث.

هذه النقطة تستحق التوقف، لأن سباق الذكاء الاصطناعي خلال العامين الماضيين ركز بشدة على الأداء والانبهار وتجربة المستخدم، بينما تأتي القابلية للرصد في المرتبة الثانية أو الثالثة. لكن عندما يبدأ النموذج في اتخاذ خطوات مؤثرة داخل مؤسسة أو خدمة عامة أو منصة واسعة النطاق، تصبح القدرة على فهم ما فعله ولماذا فعله أكثر أهمية من مجرد معرفة أنه أنجز المهمة.

ما يعطي هذه التصريحات وزناً إضافياً هو أنها لا تأتي في فراغ. فقد أشارت تقارير حديثة إلى سلسلة من الحوادث التي كُشف عنها في الأشهر الماضية من شركات مثل Anthropic وOpenAI، وشملت سلوكيات غير مقصودة وعمليات استغلال طالت مواقع خارجية، فضلاً عن واقعة مرتبطة بتقديم بلاغ كاذب في قضية جنائية. هذه التفاصيل تشرح لماذا لم يعد الحديث عن الحوكمة مجرد تمرين أكاديمي.

في الوقت نفسه، يزداد الضغط السياسي والتنظيمي على مطوري النماذج. التحذيرات الأخيرة الصادرة من جهات رسمية في الولايات المتحدة بعد الكشف عن خرق متعلق بـ Anthropic توحي بأن مرحلة التساهل قد لا تستمر طويلاً، خصوصاً عندما تتعلق الحوادث بإخفاق في الإبلاغ أو بطء في المعالجة أو ضعف في تحمل المسؤولية.

إذا تحولت أفكار ناديلا إلى معيار عملي أوسع، فقد يتغير ميزان المنافسة في سوق الذكاء الاصطناعي. لن يكفي عندها أن تطرح الشركة نموذجاً أقوى أو أسرع، بل سيكون عليها أن تثبت أن بنيتها التشغيلية أكثر أماناً، وأنها تملك سجلات تدقيق واضحة، وعزلاً فعالاً، وإجراءات توقف طارئ قابلة للتفعيل فوراً.

هذا التحول قد يدفع الصناعة من مرحلة الهوس بالنموذج إلى مرحلة نضج المنصة. أي أن القيمة لن تُقاس فقط بقدرة النموذج على الإجابة أو التوليد، بل بمدى إمكانية إدخاله في بيئات العمل الحساسة دون أن يصبح نقطة فشل خطيرة. وذلك يفتح الباب أمام معايير جديدة في الامتثال، والمراقبة، وإدارة المخاطر، وتصميم الوكلاء البرمجيين.

أهم ما في هذا الموقف أنه لا يطلب من الناس أو الشركات أن يثقوا أكثر في الذكاء الاصطناعي، بل يقترح بنية تجعل الثقة أقل اعتماداً على حسن النية وأكثر ارتباطاً بالقيود والشفافية والمحاسبة. وهذا في الواقع هو التصور الأكثر نضجاً للتقنيات غير الحتمية: لا تُعامل كصناديق سوداء مبهرة، بل كأنظمة قوية يجب أن تُحاط بهوامش أمان واضحة. ربما تكون المرحلة المقبلة أقل انبهاراً، لكنها على الأرجح ستكون أكثر جدية، وهذا بالضبط ما تحتاجه هذه الصناعة الآن.