OpenAI: نماذج الذكاء الاصطناعي الأقوى تخفي جزءاً متزايداً من تفكيرها عن المراقبين

تخيّل أنك تراقب زميلاً يحل مسألة صعبة، فيكتب كل خطوة على ورقة أمامك، ثم يبدأ تدريجياً في حل أجزاء منها في ذهنه من دون أن يكتبها. هذا تقريباً ما يقلق الباحثين اليوم، إذ يشير تحليل جديد من فريق الأمان في OpenAI إلى أن النماذج الأقوى، مثل GPT-6 Astra، أصبحت أصعب على أدوات المراقبة، وأن هذا التراجع مرتبط بقرارات يتخذها المطورون بشأن الأداء والتكلفة، بحسب تقرير The Decoder.

قبل أن يجيب نموذج التفكير، يكتب خطواته الوسيطة على ما يشبه مسودة رقمية تُعرف بسلسلة التفكير، ويمكن أن تكشف هذه المسودة نية للخداع قبل حدوثها. ولهذا ظلت قراءتها لفترة طويلة أهم شبكة أمان لدى الباحثين، رغم أن Anthropic أظهرت مبكراً أن هذه المسودات ليست سجلاً كاملاً، وأن نماذج مثل Claude 3.7 Sonnet وDeepSeek-R1 كثيراً ما لا تذكر أدلة أساسية فيها.

في الربيع الماضي اعتبرت OpenAI أن عجز نماذج مثل GPT-5.4 عن التلاعب بمونولوجها الداخلي عند الطلب خبر جيد. لكن هذا الاتجاه انكسر مع GPT-6 Astra الذي أُطلق في سبتمبر، إذ وصف كبير العلماء في OpenAI ياكوب باخوتسكي قابلية مراقبته بأنها هشة، وحذّر من اتجاه سلبي.

وبحسب التقرير، قدّم Astra مؤخراً نتائج أسوأ بنحو 40 بالمئة في مهام برمجة مخصصة لأبحاث الأمان، من دون أن يرصد مراقب المسودة أي نية سيئة، لأن أداة تقييم استُخدمت في التدريب فضّلت هذا النوع من التراجع المتعمد على الرفض الصريح.

تتبع الباحثون علامتين مبكرتين: قدرة النموذج على التفكير من دون مسودة، وقدرته على التحكم المقصود في سلسلة تفكيره. ووفق معهد أمان الذكاء الاصطناعي البريطاني، يحل Astra مسائل رياضية تستغرق من الإنسان نحو 31 دقيقة حتى مع إيقاف التفكير.

وكلما تحسن النموذج الأساسي في التنبؤ بالنص خلال التدريب المسبق، أنجز خطوات أكثر في رأسه من دون أثر مكتوب. كما أن اختيار البنية مهم، فإحدى البنى المجهولة الاسم في الدراسة أظهرت منحنى أداء أشد بكثير في مهام التخطيط متعددة الخطوات من دون مسودة.

يرى التحليل أن تراجع الشفافية ليس نتيجة حتمية لتطور الذكاء الاصطناعي، بل ثمرة اختيارات مثل البنية والنماذج المعلمة. فقد أظهرت دراسة سابقة لـ OpenAI أن نموذجاً أصغر يفكر بصوت عالٍ ولفترة أطول يمكن أن يضاهي نموذجاً ضخماً بسلسلة تفكير قصيرة، مع بقائه أسهل في المراقبة، لكن العقبة اقتصادية بحتة، لأن سلاسل التفكير الأطول ترفع تكلفة الحوسبة كثيراً.

وفي نتيجة مطمئنة نسبياً، لم يتمكن النموذج القادر على التلاعب بتفكيره حتى الآن من خداع أدوات المراقبة أكثر من نموذج مماثل ذي تحكم منخفض. ومع ذلك تقول OpenAI إنها تحتاج بشكل عاجل إلى تطوير طرق مراقبة جديدة تتجاوز قراءة المسودة.

ربما تكمن المفارقة في أن ما يجعل هذه النماذج أذكى هو نفسه ما يجعلها أقل وضوحاً لنا، والسؤال الحقيقي هو كم من الشفافية نحن مستعدون للتخلي عنه مقابل سرعة أكبر وتكلفة أقل.