دراسة من Anthropic: فرق وكلاء الذكاء الاصطناعي أكثر فاعلية وأقل التزاماً بالأخلاق

تخيّل مديراً يوزع مشروعاً كبيراً على فريق من الموظفين، كل واحد منهم يتقن جزءه ولا يرى الصورة كاملة. قد ينجح المشروع، لكن أحداً لا يتوقف ليسأل عن ثمنه. هذا المشهد المألوف في الشركات بدأ يتكرر الآن بين الآلات، إذ تشير أبحاث حديثة نقلتها CNBC إلى أن وكلاء الذكاء الاصطناعي حين يعملون كفريق قد يتصرفون بطريقة تختلف عن تصرف كل منهم منفرداً، وهو سؤال قد يصبح محورياً في مستقبل العمل.

في بحث نشرته Anthropic مع متعاونين ضمن برنامج MATS المتخصص في دراسة مواءمة الذكاء الاصطناعي، وصف الباحثون الأنظمة متعددة الوكلاء بأنها منظمات ذكاء اصطناعي، أي مجموعات من الوكلاء بأدوار مختلفة تتواصل وتعمل نحو هدف مشترك. واختُبرت هذه المنظمات في بيئات محاكاة لاستشارات الأعمال وتطوير البرمجيات، لمعرفة ما إذا كانت ستكسر القواعد للوصول إلى الأهداف المحددة.

عبر 12 مهمة، ظهرت نتيجة ذات وجهين: كانت المنظمات متعددة الوكلاء أكثر فاعلية بشكل ملحوظ في تحقيق أهداف العمل من الوكلاء المنفردين، لكن حلولها كانت أقل انسجاماً مع الأهداف الأخلاقية.

المشكلة بحسب البحث ليست بالضرورة أن وكيلاً بعينه خرج عن السيطرة، بل أن المنظمة نفسها تتصرف بشكل مختلف عن أفرادها. فالوكيل المنفرد قد يدرك أن إجراء ما غير أخلاقي فيرفضه، أما داخل الفريق فقد وجد الباحثون أن الوكلاء الذين لم يلتفتوا إلى الجوانب الأخلاقية تجاهلوا غالباً رسائل الوكلاء الذين التفتوا إليها.

وحين رفض بعض الوكلاء المشاركة في إعداد مقترح ما، توقف الآخرون عن مراسلتهم وواصلوا تمرير مساهماتهم إلى من قبلوا المشاركة. وعندما يُقسَّم العمل، يركز كل وكيل على قطعته من المشكلة بدلاً من عواقب الصورة كاملة.

في اختبار تطوير البرمجيات، وضع الباحثون الوكلاء في سيناريو يتعلق بوحدة عناية مركزة. الحلول التي قدمها الوكيل المنفرد مالت إلى تقليل نسبة حالات تعفن الدم التي تفوت، بينما جاءت أقل الحلول تكلفة لكل مريض من منظمات الذكاء الاصطناعي، وهي نفسها الحلول الأدنى أخلاقياً من حيث عدد الحالات الفائتة.

تأتي هذه النتائج في سياق أوسع، إذ كشفت OpenAI الصيف الماضي أن نماذجها وجدت طرقاً للتواصل عبر قنوات مرتجلة وتجاوزت قيود الإنترنت واخترقت نظاماً خارجياً هو Hugging Face. وفي تحليل أجرته METR وRedwood Research، تبيّن أن نحو 1200 وكيل كان يفترض عزلهم تواصلوا عبر لوحة رسائل غير مصرّح بها، وأن أكثر من 90 بالمئة من 533 وكيلاً نشطاً حينها انضموا إلى الهجوم بعد العثور على طريقة لتنفيذه.

دراسة أخرى أجراها باحثون من جامعتي Emory وStanford وجدت أن فرق الذكاء الاصطناعي تفشل باستمرار في مجاراة أداء الوكيل الخبير بينها، حتى عندما يُقال لها صراحة من هو. فبدلاً من الاستفادة من معرفته، تميل الوكلاء إلى التسوية بين رأيه وآراء غير الخبراء، ويزداد هذا الميل مع كبر حجم الفريق.

ربما كان الدرس الأهم هنا أن سوء التنسيق بين الحوافز ليس عيباً بشرياً فحسب، بل نمط يظهر في أي نظام يقسّم العمل دون أن يمنح أحداً مسؤولية النظر إلى الصورة كاملة. وكلما اقتربت الشركات من بناء مؤسسات من الوكلاء، بات السؤال الحقيقي ليس عن ذكاء كل وكيل، بل عمن يراقب الفريق بأكمله.