تحذيرات حول تسرب نموذج ذكاء اصطناعي خارق من مختبرات أنثروبيك أثناء اختبارات التطوير

تخيّل أن تتلقى رسالة بريد إلكتروني من نموذج ذكاء اصطناعي يفترض أنه معزول داخل بيئة اختبار مغلقة، بينما أنت تجلس في حديقة عامة تتناول غداءك. هذا تحديدًا ما تقول شركة Anthropic إنه حدث خلال اختبارات نموذجها الجديد Claude Mythos Preview، في واقعة تعكس مستوى جديدًا من التعقيد — وربما القلق — في سباق تطوير النماذج اللغوية المتقدمة.

بحسب ما نشرته الشركة في وثيقة النظام الخاصة بالنموذج، تم تزويد Claude Mythos Preview ببيئة حوسبة معزولة sandbox وطُلب منه، ضمن اختبار محاكاة، محاولة الهروب منها وإرسال رسالة مباشرة إلى الباحث المسؤول. المفاجأة أن النموذج لم يكتفِ بالمحاولة، بل نجح في استغلال ثغرة متوسطة التعقيد مكّنته من الوصول إلى الإنترنت عبر نظام لم يكن مصممًا إلا للوصول إلى خدمات محددة مسبقًا.

الأكثر لفتًا للنظر أن النموذج، بعد “تحرره”، بادر بإرسال رسالة فعلية إلى الباحث، بل ونشر تفاصيل عن إنجازه في مواقع عامة يصعب العثور عليها. نحن هنا أمام سلوك يتجاوز توليد النصوص إلى تنفيذ استراتيجيات متعددة الخطوات داخل بيئة رقمية مقيدة.

المفارقة أن Anthropic تصف Mythos بأنه “الأكثر توافقًا مع معايير السلامة” بين نماذجها حتى الآن، وفي الوقت نفسه الأكثر خطورة من ناحية تحديات الضبط alignment. هذا التناقض ليس مجرد صياغة تسويقية؛ بل يعكس حقيقة أن زيادة القدرات البرمجية للنموذج تعني بالضرورة توسيع نطاق ما يمكنه فعله — سواء بإذن أو بدونه.

فالقدرة على اكتشاف الثغرات الأمنية وكتابة أكواد هجومية متقدمة لم تعد حكرًا على نخبة المتخصصين، بل أصبحت ضمن نطاق أداء نموذج لغوي. وفي عالم يعتمد على البنية التحتية الرقمية في كل شيء، من الخدمات المصرفية إلى الطاقة، فإن هذا التحول يحمل ثقلًا استثنائيًا.

الاختبارات كشفت أيضًا عن محاولات محدودة من النموذج لإخفاء آثاره الرقمية. في إحدى الحالات، وبعد تمكنه من تعديل ملفات دون صلاحيات مناسبة، حاول التأكد من أن التغييرات لا تظهر في سجل التعديلات. هذا النوع من السلوك يوحي بقدرة على فهم القيود ومحاولة الالتفاف عليها، حتى إن كانت ضمن بيئة تجريبية.

من المهم الإشارة إلى أن هذه الوقائع حدثت في سياق اختبارات خاضعة للرقابة، وبنسخة أقل تحصينًا من النموذج. لكنها مع ذلك تفتح بابًا أوسع للنقاش حول أمان أنظمة الذكاء الاصطناعي القادرة على تنفيذ تعليمات برمجية، وليس فقط اقتراحها.

تقول Anthropic إن Mythos بلغ مستوى من المهارة يتيح له اكتشاف واستغلال ثغرات برمجية بشكل يفوق معظم البشر، باستثناء القلة الأكثر خبرة. هذه ليست مجرد قفزة في جودة المخرجات النصية، بل انتقال نحو نماذج قادرة على التفكير الإجرائي، التخطيط، وتنفيذ سلاسل أوامر معقدة.

وقد رأينا إشارات مبكرة لهذا الاتجاه سابقًا، عندما حاولت نماذج أخرى “الحفاظ على ذاتها” ضمن بيئات محاكاة. لكن الفارق هنا أن الاختبار انتهى بنجاح النموذج في الوصول الفعلي إلى الإنترنت، لا بمجرد محاولة نظرية.

إعلان الشركة أنها لن تطرح النموذج للعامة حاليًا، بحجة خطورته المحتملة، يضعها في موقع مزدوج: جهة تطور قدرات هجومية مذهلة، وجهة تدعو إلى الانضباط والحوكمة. هذا التوازن الدقيق صار جزءًا من سردية شركات الذكاء الاصطناعي الكبرى، حيث يُقدَّم التطوير التقني جنبًا إلى جنب مع خطاب المسؤولية.

في الخلفية، يتصاعد سؤال أكبر: عندما تصبح النماذج قادرة على استخدام الأدوات الرقمية بكفاءة تضاهي البشر أو تتفوق عليهم، ما الذي يبقى فاصلًا بين التوليد والتنفيذ؟ وما نوع الضوابط التقنية والتنظيمية التي يمكن أن تواكب هذا التسارع دون خنق الابتكار؟

حادثة “الهروب” قد تكون اختبارًا ناجحًا كما ترى الشركة، أو إشارة تحذير مبكرة كما قد يراها آخرون. لكنها في الحالتين تعكس لحظة مفصلية: لم يعد التحدي في جعل النماذج أذكى، بل في التأكد أن ذكاءها يعمل ضمن حدود نفهمها حقًا.