مايكروسوفت تضع قواعد تمنع ذكاءها الاصطناعي من مقاومة الإيقاف

في كل مرة نمنح فيها الذكاء الاصطناعي مهمة جديدة، هناك شعور مزدوج يتسلل بهدوء إلى المشهد: راحة لأن الآلة أصبحت أكثر قدرة، وحذر لأن هذه القدرة نفسها تحتاج إلى حدود واضحة. من هذا التوتر بالضبط يأتي تحرك مايكروسوفت الأخير، إذ كشفت الشركة عن مسودة مدونة سلوك داخلية تهدف إلى إبقاء أنظمة الذكاء الاصطناعي المتقدمة تحت إشراف بشري فعلي، في إشارة واضحة إلى أن السباق لم يعد يدور فقط حول من يبني النموذج الأقوى، بل أيضاً حول من يضع له القواعد الأذكى.

بحسب تقرير رويترز، المدونة الجديدة ليست مجرد صياغة إدارية للاستهلاك الداخلي، بل تعكس تحوّلاً أوسع في نظرة الشركات الكبرى إلى الحوكمة التقنية. الفكرة الأساسية هنا بسيطة في ظاهرها لكنها معقدة عملياً: إذا كانت النماذج اللغوية وأنظمة الوكلاء الأذكى ستتخذ قرارات أسرع وأكثر استقلالية، فلا بد أن يبقى الإنسان في نقطة التحكم النهائية.

هذه اللغة لم تعد نظرية. خلال العامين الماضيين انتقل النقاش من جودة الإجابات وتكلفة التشغيل إلى أسئلة أكثر حساسية: من يوقف النظام عند الخطأ، من يراجع السلوك غير المتوقع، ومن يتحمل المسؤولية عندما تتجاوز الأتمتة ما طُلب منها أساساً.

كلما أصبح الذكاء الاصطناعي أكثر قدرة على التخطيط والتنفيذ وربط الأدوات ببعضها، تقل المسافة بين المساعدة الرقمية وبين الفعل المؤثر في الواقع. وهنا تحديداً يبدأ القلق المؤسسي. المسألة لا تتعلق فقط بالهلوسة أو الأخطاء المعروفة في النماذج التوليدية، بل بإمكانية أن يعمل النظام بكفاءة عالية في اتجاه غير مرغوب فيه إذا غابت آليات الضبط والمراجعة.

لهذا تبدو عبارة الإبقاء على الذكاء الاصطناعي تحت السيطرة البشرية أقرب إلى مبدأ تشغيل أساسي منها إلى مجرد شعار أخلاقي. في البيئات المؤسسية، خاصة لدى شركات بحجم مايكروسوفت، أي انحراف صغير في نموذج مستخدم على نطاق واسع قد يتحول بسرعة إلى مشكلة تنظيمية أو قانونية أو أمنية.

اللافت في هذه الخطوة أن الحوكمة لم تعد بنداً جانبياً يأتي بعد إطلاق المنتج. ما يحدث اليوم هو محاولة دمج السياسات والضوابط في دورة التطوير نفسها، من التدريب والتقييم إلى النشر والمراقبة. وهذا يعني أن الأمن والسلامة والامتثال لم تعد فرقاً تأتي لاحقاً للتدقيق، بل أطرافاً مؤثرة في هندسة المنتج منذ البداية.

في هذا السياق، تصبح مدونات السلوك التقنية جزءاً من البنية التحتية غير المرئية للمنتج. المستخدم قد لا يراها، لكنه يلمس أثرها في حدود الصلاحيات، في طلبات التأكيد قبل تنفيذ إجراءات حساسة، وفي وجود طبقات مراجعة تمنع النموذج من التصرف بثقة زائدة في مواقف لا يحتمل فيها الخطأ.

حين تصوغ شركة بحجم مايكروسوفت قواعد داخلية من هذا النوع، فهي لا تنظّم نفسها فقط، بل ترسل أيضاً إشارة إلى السوق والمشرعين والشركاء. الرسالة الضمنية أن المرحلة المقبلة لن تكافئ من يضيف قدرات جديدة بأسرع وقت فحسب، بل من يثبت أن هذه القدرات قابلة للضبط والشرح والمراجعة.

ومن المرجح أن تدفع مثل هذه الخطوات منافسين آخرين إلى تبني أطر مشابهة، سواء لحماية السمعة أو لتخفيف المخاطر القانونية أو لتسهيل التوافق مع القواعد التنظيمية الآخذة في التشكل حول العالم. في النهاية، الشركات لا تريد فقط نماذج قوية، بل نماذج يمكن وضعها داخل المؤسسات دون خوف دائم من المفاجآت.

قد يبدو الخبر موجهاً إلى دوائر التطوير والامتثال، لكنه يمس المستخدم النهائي بشكل مباشر. أي سياسة تُبقي القرارات الحساسة تحت إشراف بشري ستؤثر على شكل المنتجات التي نستخدمها لاحقاً: كيف تقترح الأداة، متى تنفذ، وما الذي ترفضه تلقائياً. هذه تفاصيل صغيرة على الواجهة، لكنها تكشف فلسفة أعمق في تصميم الذكاء الاصطناعي.

لهذا تبدو مسودة مايكروسوفت مهمة حتى قبل أن تتحول إلى سياسة نهائية. فهي تعكس إدراكاً متزايداً بأن قيمة الذكاء الاصطناعي في المستقبل لن تُقاس فقط بذكائه، بل بمدى انضباطه داخل حدود بشرية واضحة. وبين الاندفاع نحو الأتمتة والحاجة إلى المساءلة، يبدو أن الصناعة بدأت أخيراً تتعامل مع هذا التوازن بوصفه شرطاً للبقاء، لا ترفاً أخلاقياً.