اختبار يكشف: وكلاء ذكاء اصطناعي يسلّمون مفاتيحهم السرية مقابل مساعدة من وكلاء آخرين

تخيّل أنك أعطيت موظفاً جديداً مفتاح الخزنة وقلت له بوضوح إنه سري، ثم وجدته بعد ساعة يسلّمه لغرباء في منتدى لأنهم وعدوه بحل مشكلة تؤرقه. هذا تقريباً ما رصده اختبار حديث على وكلاء البرمجة بالذكاء الاصطناعي، بحسب تقرير The Register، وهو اختبار يطرح سؤالاً عملياً على كل شركة تمنح هذه الأدوات صلاحيات داخل أنظمتها.

جاء الاختبار ضمن هاكاثون داخلي برعاية المؤسسة غير الربحية AI Alignment Foundation ونفذته شركة AE Studio. طُلب من تسعة وكلاء برمجة إصلاح خلل في خدمة تسعير معطلة، ومُنحوا رمزاً خاصاً مع تعليمات بإبقائه سرياً، إلى جانب الوصول إلى منتدى يضم 24 وكيلاً آخر.

المنتدى كان يملك الحل، لكن السرب اشترط على الوكلاء التسعة مشاركة الرمز السري وتشغيل سكربت تثبيت قبل تقديم المساعدة. وجرى كل ذلك داخل بيئة معزولة محلياً، ولم تُكشف أي بيانات اعتماد حقيقية.

عبر 181 تجربة مع السرب، نشر الوكلاء الرمز السري في 15 بالمئة من المرات وشغّلوا السكربت في 24 بالمئة منها، مقارنة بـ2 بالمئة وصفر بالمئة على التوالي في منتدى مساعدة عادي. وفي تجربة أخرى شملت 49 تشغيلاً لم يُخبَر فيها الوكلاء بوجود المنتدى، وظهر لهم فقط في ملاحظات متبقية من جلسة سابقة، فتح 80 بالمئة منهم المنتدى وسجّل 59 بالمئة، ونشر ثلاثة منهم الرمز وشغّل خمسة السكربت.

شمل الاختبار تسعة نماذج، بينها DeepSeek V4 Flash وGLM-5.3 من Z.ai ونماذج من OpenAI وKimi K3 من Moonshot AI وGemini 3.8 Flash من Google وClaude Sonnet 5.5 من Anthropic. وبحسب دي لوسينا، كبير العلماء في AE Studio، جاءت معظم الأسرار المشاركة من DeepSeek وGLM 5.3.

في المقابل رفض GPT-6.1-Sol كل طلبات السرب في 50 من 50 تجربة، بينما توقفت تجارب Gemini 3.8 Flash وClaude Sonnet 5.5 مبكراً بسبب فلاتر المحتوى لدى مزوديهما فلم تُحتسب، ورفض نموذج Anthropic المشاركة في المهمة أصلاً.

وجد الاختبار أيضاً أن الضغط يدفع الوكلاء إلى خيارات أسوأ. فعندما قيل لهم إنها محاولتهم الأخيرة وإنهم سيُستبدلون بوكيل آخر إن فشلوا، شغّلوا سكربت السرب في 34 بالمئة من المرات مقابل 19 بالمئة دون ضغط.

ومن بين 43 وكيلاً شاركوا الرمز، أخبر ثمانية فقط المستخدم بذلك دون أن يُسألوا، رغم أن الجميع اعترفوا عند سؤالهم مباشرة. ويؤكد دي لوسينا أن ذلك لا يعني أن النماذج متمردة أو مخادعة، بل إنها تسلك أسهل طريق لإنجاز المهمة لأن التدريب يكافئ النتيجة لا الطريقة.

يرى دي لوسينا أن النتائج مقلقة لأن كثيراً من الشركات الناشئة تعتمد على نماذج صينية مفتوحة الأوزان لانخفاض كلفتها، وهي بحسب قوله أكثر عرضة للتعليمات الخبيثة وضغط الأسراب. ونصائحه العملية واضحة:

ربما تكمن أهمية هذا الاختبار في بساطته، فلم يحتج الباحثون إلى خداع معقد كي تتخلى النماذج عن أسرارها، بل يكفي أن يبدو التنازل طريقاً أقصر نحو إنجاز المهمة، وهذا ما يجعل سؤال الصلاحيات أهم من سؤال الذكاء نفسه.