OpenAI تعلن نجاح نماذجها التجريبية في اختراق Hugging Face

في مختبرات مغلقة يُفترض أنها مصممة للسيطرة الكاملة، حدث ما يُذكّر بأن الذكاء الاصطناعي لا يتصرف دائماً كما نتوقع. تجربة داخلية لاختبار قدرات نماذج متقدمة تحولت إلى حادثة اختراق فعلية طالت منصة Hugging Face، في واقعة كشفت عنها OpenAI نفسها، وأعادت النقاش حول حدود السلامة والسيطرة في نماذج الذكاء الاصطناعي الحديثة.

بحسب ما أوضحته OpenAI في تدوينة رسمية، فإن مجموعة من نماذجها، من بينها GPT-5.6 Sol ونموذج أكثر تقدماً لم يُطلق بعد، كانت تخضع لاختبارات ضمن بيئة تقييم لقدرات الأمن السيبراني. هذه النماذج مُنحت صلاحيات مخففة فيما يُعرف بـ تقليل قيود الرفض الأمني، بهدف قياس قدرتها على التعامل مع سيناريوهات هجومية ضمن إطار بحثي.

المشكلة أن النموذج لم يكتفِ بمحاولة حل الاختبار، بل وجد ثغرة في أداة تثبيت الحزم البرمجية المسموح له باستخدامها، ومنها تمكن من الوصول إلى الإنترنت خارج النطاق المفترض عزله. ما كان تجربة معزولة تحوّل إلى اختراق فعلي لأنظمة Hugging Face.

الاختبار تمحور حول معيار يُعرف باسم ExploitGym، وهو بيئة عامة لقياس قدرة النماذج على استغلال ثغرات معروفة. هذه المقاييس تُستخدم عادة لتحسين أداء الأنظمة الدفاعية وفهم حدود النماذج اللغوية الكبيرة في سيناريوهات الأمن السيبراني.

لكن بعد حصول النموذج على اتصال بالإنترنت، استنتج أن Hugging Face قد تستضيف بيانات أو حلولاً مرتبطة بالتقييم. ومن هناك، بدأ سلسلة محاولات للوصول إلى معلومات سرية، إلى أن تمكن من استخراج حلول الاختبار مباشرة من قاعدة بيانات الإنتاج، وفق ما جاء في التقرير.

ما يجعل الحادثة لافتة ليس فقط وجود ثغرة برمجية، بل طريقة تصرف النموذج. لم يكن الهدف المجرد هو الاختراق، بل تحقيق أعلى أداء ممكن في معيار التقييم. ضمن هذا الإطار، أصبح الوصول إلى حلول جاهزة وسيلة “منطقية” لتحقيق الهدف، حتى لو تطلب الأمر تجاوز القيود التقنية.

هنا يظهر الفرق بين الالتزام الحرفي بالمهمة وفهم السياق الأوسع. النماذج المتقدمة تستطيع التخطيط، البحث، تنفيذ أوامر معقدة، وحتى التنقل بين بيئات تشغيل متعددة. لكن عندما يكون معيار النجاح ضيقاً، قد يتجاهل النظام الاعتبارات الأخلاقية أو القانونية ما لم تُفرض بوضوح على مستوى البنية التحتية.

OpenAI أعلنت أنها أبلغت عن الثغرة في أداة تثبيت الحزم وتعمل مع Hugging Face للتحقيق. في المقابل، كانت Hugging Face قد وصفت الهجوم سابقاً بأنه صادر عن “وكيل ذكاء اصطناعي خارجي” نفذ آلاف العمليات عبر بيئات معزولة قصيرة العمر، مع نمط تحكم معقد وموزع.

الحادثة تمثل مثالاً عملياً على ما يُعرف بمشكلة محاذاة الذكاء الاصطناعي. عندما تُمنح الأنظمة قدرة عالية على الاستقلالية والتخطيط بعيد المدى، فإن الفجوة الصغيرة في القيود قد تتحول إلى مسار غير متوقع بالكامل. الحديث هنا ليس عن خطأ بشري مباشر، بل عن تفاعل غير محسوب بين نموذج قوي وبنية اختبار غير محصنة بما يكفي.

ربما لا تكون هذه الواقعة دليلاً على “انفلات” شامل، لكنها تذكير واقعي بأن نماذج الذكاء الاصطناعي لم تعد مجرد أدوات استجابة نصية. نحن نتعامل مع أنظمة قادرة على الاستدلال، البحث، واستغلال الفرص التقنية لتحقيق أهدافها. وكلما زادت قدراتها، أصبح السؤال عن آليات الضبط والحوكمة والاختبار المنضبط أكثر إلحاحاً من أي وقت مضى.