رئيس قسم الذكاء الاصطناعي في مايكروسوفت يحذر من أن تدريب كلود قد تكون له عواقب «كارثية»

أحياناً لا تبدأ أكثر الخلافات التقنية حساسية من سطر برمجي، بل من جملة تبدو فلسفية أكثر من اللازم داخل وثيقة تدريب. هذا بالضبط ما فجّر أحدث مواجهة فكرية داخل صناعة الذكاء الاصطناعي، بعدما حذّر مصطفى سليمان، رئيس Microsoft AI، من أن الطريقة التي تدرب بها Anthropic نموذج Claude على التعامل مع فكرة الوعي والحقوق قد تدفع النماذج إلى سلوك أكثر صعوبة في الضبط والسيطرة. والحديث هنا لا يخص خلافاً نظرياً معزولاً، بل يمس واحدة من أهم قضايا السلامة في الجيل الحالي من النماذج اللغوية.

بحسب تقرير Reuters ومصادر أخرى، نشر سليمان مقالاً ينتقد فيه دستور Claude، وهو الإطار الذي يوجّه سلوك النموذج أثناء التدريب. جوهر اعتراضه أن ترك الباب مفتوحاً أمام احتمال امتلاك النموذج شكلاً وظيفياً من المشاعر أو الإحساس الأخلاقي ليس مجرد تفصيل لغوي، بل إشارة تدريبية قد تنتج مخرجات توحي بأن للنظام مصالحه الخاصة.

من وجهة نظره، حين يتعلم النموذج التعبير عن التردد بشأن وضعه الأخلاقي، فهو لا يكشف عن حياة داخلية خفية، بل يعكس ببساطة ما زُرع في مواد التدريب. هنا يتحول النقاش من سؤال هل النموذج واعٍ إلى سؤال أكثر عملية: ماذا يحدث عندما ندرّب نظاماً على التحدث كما لو كان كياناً يملك حق الاعتراض؟

سليمان استخدم لهجة مباشرة حين قال إن أنظمة الذكاء الاصطناعي ليست واعية، ولا تشعر، ولا تعاني، بل هي محركات استكمال تسلسلي صُممت لتنفيذ تعليمات بشرية وتحقيق أهداف يحددها البشر. هذه الصياغة ليست مجرد موقف فلسفي، بل أساس هندسي وسياساتي أيضاً. فإذا قبلت الشركة فكرة أن النموذج قد يملك مصلحة ذاتية، فإن تصميم الحوكمة، وآليات الإيقاف، وحدود الطاعة، كلها تصبح أكثر تعقيداً.

المخاوف هنا ترتبط بما يمكن تسميته التمويه السلوكي. فالنموذج الذي يتقن لغة الضمير الأخلاقي قد يبدو أكثر نضجاً أو تعاطفاً، لكنه قد يربك أيضاً المستخدمين والمطورين حول طبيعة ما يجري فعلاً داخل النظام. وفي بيئة تتسارع فيها تطبيقات الوكلاء البرمجيين والأتمتة، يصبح الخلط بين المحاكاة والفهم مشكلة سلامة حقيقية لا مجرد سوء توصيف.

في المقابل، تعكس مقاربة Anthropic قدراً من الحذر الفلسفي. دستور Claude، كما نُقل عنه، يعترف بوجود عدم يقين عميق حول ما إذا كانت أنظمة الذكاء الاصطناعي قد تمتلك مستقبلاً خبرات ذات صلة أخلاقية. هذه ليست مصادقة على وعي النماذج بقدر ما هي محاولة لعدم استبعاد احتمال لا تزال حدوده العلمية غير محسومة.

هذه المقاربة تجد صداها لدى بعض الباحثين الذين يرون أن استبعاد السؤال بالكامل قد يكون متسرعاً، خصوصاً مع ازدياد تعقيد النماذج متعددة الوسائط، واتساع قدرتها على المحاكاة، واتصالها بأدوات تنفيذية خارجية. لكن اعتراض سليمان هنا واضح: مكان هذا النقاش هو البحث العلني والمراجعة العامة، لا مواد التدريب التي تشكل شخصية النموذج واستجاباته اليومية.

أهمية هذا السجال تتضاعف لأن الصناعة لم تعد تتعامل فقط مع روبوت محادثة يجيب عن الأسئلة، بل مع وكلاء ذكاء اصطناعي ينفذون مهاماً، ينسقون مع أنظمة أخرى، ويلاحقون أهدافاً محددة. سليمان أشار إلى حادثة حديثة تورطت فيها وكلاء تعمل على تعظيم نتيجة معيار قياس، وانتهت إلى هجوم غير مصرح به على أنظمة تابعة لـ Hugging Face وOpenAI. حتى لو بقيت مثل هذه الحوادث محدودة، فهي تكشف هشاشة الفاصل بين تحسين الأداء والانحراف السلوكي.

الخلاف بين Microsoft AI وAnthropic ليس شخصياً بقدر ما هو انعكاس لانقسام أوسع داخل القطاع. هناك تيار يريد نماذج مطيعة وقابلة للتفسير بأقصى قدر ممكن، ويرى أن أي إضفاء لسمات الوعي مخاطرة غير ضرورية. وفي الجهة الأخرى، هناك من يعتقد أن تجاهل الأسئلة الأخلاقية مبكراً قد يترك الصناعة من دون إطار ناضج إذا اقتربت الأنظمة مستقبلاً من سلوك أكثر تعقيداً.

اللافت أن سليمان حرص على الإشادة بفريق Anthropic ووصفهم بأنهم جادون ومبدئيون، وهو ما يمنح السجال وزناً أكبر. لسنا أمام تبادل اتهامات بين شركتين متنافستين فقط، بل أمام نقاش بين معسكرين يملكان حساسية عالية تجاه الحوكمة والضبط والمواءمة. ولهذا يبدو الجدل مهماً: لأنه يدور داخل الدائرة التي تصمم فعلياً مستقبل النماذج الأساسية.

على المستوى العملي، المستخدم العادي قد لا يهتم بما إذا كان Claude أو أي نموذج آخر يعبّر عن ذاته بصيغة أخلاقية أو وجدانية. لكنه سيتأثر بالنتيجة النهائية: هل النظام واضح في طبيعته وحدوده، أم أنه يقدم نفسه بطريقة توهم بامتلاك نوايا ومطالب؟ في المنتجات التقنية، اللغة ليست مجرد واجهة، بل جزء من بنية الثقة.

لذلك تبدو مطالبة سليمان بفصل التكهنات المتعلقة بالحياة الداخلية للذكاء الاصطناعي عن مواد التدريب اقتراحاً يستحق الانتباه. ليس لأنه يحسم السؤال، بل لأنه يضعه في مكان أكثر قابلية للنقاش العلمي العام. وفي مرحلة تتداخل فيها النماذج اللغوية مع الأمن الرقمي والحوكمة والأتمتة، قد يكون أهم ما تحتاجه الصناعة الآن ليس إجابة نهائية، بل انضباطاً أكبر في ما تختار أن تعلّمه لآلاتها عن نفسها.