نموذج Inkling 2 Small من Thinking Machines يشتم في تفكيره الداخلي 316 مرة

تخيّل أن تطّلع على ملاحظات زميل يحاول حل مسألة صعبة، فتجد بين السطور عبارات غضب وإحباط كلما تعثّر. هذا تقريباً ما وجده باحثون عندما قرأوا خطوات التفكير الداخلي لنموذج Inkling 2 Small من شركة Thinking Machines، إذ تبيّن أن النموذج يلجأ أحياناً إلى الألفاظ النابية وهو يفكر، في مشهد يكشف جانباً غير مألوف مما يجري خلف الإجابات المرتبة التي يراها المستخدم.

بحسب تقرير The Decoder، قرأ باحثون في Vals AI سجلات التفكير لنموذج Inkling 2 Small في 2,655 تجربة عبر 13 اختباراً معيارياً. وظهرت الشتائم أو صيغ مشتقة منها في 50 تجربة، بإجمالي 316 مرة.

وكان اختبار ProgramBench الأكثر تأثراً، إذ ظهرت الشتائم في 20 تجربة من أصل 200.

اللافت أن 241 من هذه الشتائم جاءت من تجربتين فقط خرجتا عن السيطرة. في إحداهما طُلب من النموذج حساب مسار كويكب، فأنتج رداً واحداً من 500,000 حرف، أي بطول رواية تقريباً، يكرر فيه الجمل نفسها ويتضمن 158 شتيمة.

هذا النوع من الحلقات المفرغة يوضح كيف يمكن لنموذج أن يعلق في تكرار أفكاره بدلاً من التقدم نحو حل، وهي مشكلة تقنية تتجاوز مسألة الألفاظ نفسها.

يشتم Inkling 2 Small عادة عند أخطائه، أو عندما يظن أنه حقق اختراقاً، أو حين يستسلم. وفي إحدى التجارب كتب النموذج عبارات متتالية تعبّر عن اليأس من أن شيئاً لا يعمل، قبل أن يقرر تسليم الإجابة.

قد يبدو منطقياً أن تكون الشتائم إشارة مبكرة إلى أن النموذج يتجه نحو الفشل، لكن الأرقام لا تدعم ذلك. فمن بين 48 تجربة جرى تقييمها وظهرت فيها الشتائم، فشلت 46، غير أن نحو 75 في المئة من جميع التجارب المقيّمة تفشل أصلاً، و96 في المئة من التجارب الفاشلة لم تتضمن أي شتيمة.

لا يرى المستخدمون عادة خطوات التفكير هذه، أو يرونها بعد تمريرها عبر مرشّح. لكن الواقعة تذكّر بأن ما يحدث داخل النموذج قبل الإجابة قد يكون أكثر فوضوية مما توحي به النتيجة النهائية.

ربما لا تكمن أهمية هذه الأرقام في الشتائم بحد ذاتها، بل في النافذة التي تفتحها على طريقة عمل النماذج حين تتعثر، وفي السؤال عن مقدار ما نحتاج إلى رؤيته من هذا التفكير الداخلي كي نفهم ما نستخدمه كل يوم.