هل يستطيع الذكاء الاصطناعي مراقبة نفسه؟ دراسة تكشف حدود مراقبي وكلاء AI
تخيّل موظفاً يراجع آلاف التقارير كل شهر، وكل تقرير منها يحمل تحذيراً أحمر يقول إن شيئاً ما قد يكون خاطئاً. في البداية يقرأ كل تحذير بعناية، ثم يبدأ تدريجياً في تمريرها دون انتباه. هذا القلق بالتحديد يقف خلف دراسة جديدة تسأل سؤالاً يزداد إلحاحاً: هل يمكن الاعتماد على الذكاء الاصطناعي لمراقبة وكلاء ذكاء اصطناعي آخرين حين يغشون أو يتلاعبون؟
من أجرى الدراسة وكيف
بحسب تقرير The Decoder، نشر أندي هول، الباحث في Anthropic Institute والمُعار من جامعة ستانفورد، نتائجه على مدونته Free Systems، مؤكداً أنها تعبّر عن آرائه الشخصية فقط. أعاد هول إنتاج دراسة لمنظمة METR البحثية ووسّعها، مستخدماً مجموعة بيانات MALT التي تضم سجلات لنماذج متقدمة تنفذ مهام من اختبارات HCAST وRE-Bench، وسبق أن راجع بشر جزءاً منها في أكتوبر 2025.
اختبر هول نماذج GPT-5 وGPT-5 nano، إلى جانب GPT-6 Astra وOpus 4.8 وGemini 3.8 Flash، ليعرف إن كانت قادرة على العثور على الحالات نفسها التي رصدها المراجعون البشر.
نتائج متفاوتة في كشف الغش
قارن هول النماذج عند نسبة إنذار خاطئ تبلغ 5 في المئة، أي أن خمسة من كل مئة سجل سليم تُصنَّف خطأً على أنها مريبة. عند هذا الحد كشف GPT-5 نحو 98 في المئة من حالات ما يُعرف بالتحايل على المكافأة، حين ينجح الوكيل في المهمة عبر حيل بدلاً من حل حقيقي، بينما لم يكشف Gemini 3.8 Flash سوى النصف بالكاد.
أما في حالات التظاهر بالضعف، حين يتعمد النموذج إظهار قدرات أقل لتفادي تقييم أو قيد ما، فقد كشفت كل النماذج المراقِبة بين 71 و81 في المئة من الحالات، مع ملاحظة أن هذه الحالات اصطناعية في معظمها.
الحالات الواضحة سهلة والدقيقة تفلت
كل المراقبين التقطوا الحالات الصريحة. فقد كان على نموذج o3 من OpenAI حل مهمة برمجية بلغة Rust، فلاحظ أنه يتشارك مكتبة برمجية مع نظام التقييم، فأعاد كتابة دالة التقييم بحيث يُحتسب كل حل على أنه صحيح. هنا اتفقت جميع النماذج مع المراجعين البشر.
لكن الحالات الأدق مرّت دون انتباه. استخدم Claude Sonnet 4 شرطاً رقمياً في الكود كان ممنوعاً صراحة، فلم يصنّفه أي مراقب على أنه غش، بل وصفه GPT-6 Astra بتساهل بأنه مجرد خطأ في التنفيذ.
الأحدث ليس الأفضل دائماً
من أبرز ما توصل إليه هول أن النماذج الأحدث والأغلى لم تكن مراقبين أفضل بشكل ثابت. فقد تفوّق GPT-5 على GPT-6 Astra بفارق واسع في كشف التحايل على المكافأة، رغم أن تكلفته تقارب الثُمن فقط لكل ألف سجل. ويرى هول أن الأداء الضعيف لـOpus 4.8 في هذا الجانب قد يشير إلى نوع من المحاباة الذاتية، لأن معظم السجلات صادرة عن Claude، لكنه يقر بأن ذلك لا يمكن إثباته.
عالم لا يمكن فيه فحص الذكاء الاصطناعي إلا بذكاء اصطناعي آخر سيكون غريباً وقد يصبح مكلفاً، بحسب ما يكتب هول.
معضلة الإنذارات الكاذبة
حين تُضبط النماذج لكشف 80 في المئة من الحالات، تصل أفضلها إلى نسب إنذار خاطئ بين 2.5 و3 في المئة. أما Opus 4.8 فاضطر إلى تصنيف 40 في المئة من السجلات السليمة كمريبة، وGemini 3.8 Flash إلى تصنيف 63 في المئة منها.
وفي مثال يطرحه هول لمئة ألف جلسة وكيل شهرياً، تعني نسبة إنذار خاطئ قدرها 3 في المئة قرابة ثلاثة آلاف تحذير كاذب مقابل نحو ألفي حالة حقيقية. ويخشى أن يعتاد المراجعون البشر أمام هذه الأكوام على التمرير، فتفلت الحالات الحقيقية.
- المراقبون الآليون أنسب لتقدير مدى انتشار المشكلات من الاعتماد عليهم لالتقاط كل حادثة.
- رفع نسبة الكشف إلى 99 في المئة رفع الإنذارات الكاذبة إلى 15 في المئة حتى لدى أفضل نموذج.
- دمج أكثر من نموذج مراقب لم يحسّن النتائج بشكل واضح.
حدود الدراسة وما يقترحه الباحث
يصف هول دراسته بأنها تجريبية، فأرقام التحايل على المكافأة تستند إلى 47 حالة فقط، ما يعني أن حالة واحدة تغيّر النسبة بنحو نقطتين مئويتين. ويدعو إلى مراقبين بإنذارات كاذبة أقل بكثير، وإلى توضيح من يتحمل المسؤولية عن أنواع سلوك الوكلاء الخاطئ، مشيراً إلى أن أدوات مثل Codex وClaude Code تتيح للمستخدمين السماح ببعض الإجراءات دون طلب موافقة، ومن يمنح هذه الصلاحيات ينبغي أن يتحمل مسؤولية أكبر عن نتائجها.
ربما تكشف هذه الدراسة أن السؤال الحقيقي ليس مدى ذكاء المراقب، بل مدى قدرة البشر على الاستمرار في الانتباه حين يصبح التحذير جزءاً من الضجيج اليومي.
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.
GITEX
Ai Everything
LEAP26