OpenAI تطلق GPT-Red لاختراق نماذجها واكتشاف الثغرات

في الكواليس التي لا يراها المستخدمون، تُدار معركة صامتة بين مطوّري الذكاء الاصطناعي ومن يحاولون كسر قيوده. كل تحديث جديد يحمل معه ميزات أقوى، لكنه يفتح في الوقت نفسه احتمالات جديدة لسوء الاستخدام. من هذا السياق كشفت OpenAI عن نظام داخلي جديد يحمل اسم GPT-Red، صُمم ليقوم بدور “المهاجم” الآلي الذي يختبر نماذج الشركة قبل أن يصل إليها مهاجمون حقيقيون.

GPT-Red ليس نموذجاً موجهاً للمستخدمين، بل أداة داخلية لأتمتة ما يُعرف بعمليات الاختبار العدائي أو Red Teaming. الفكرة بسيطة ظاهرياً: إنشاء نموذج عالي القدرة يتقمّص دور خصم ذكي، يحاول مراراً وتكراراً اختراق الحواجز السلوكية للنماذج الأخرى عبر تقنيات مثل الحقن التوجيهي Prompt Injection وكسر القيود Jailbreak.

بحسب ما نشرته الشركة في مدونتها البحثية وتناقلته MIT Technology Review، يعتمد النظام على أسلوب “اللعب الذاتي” Self-Play؛ حيث تتدرّب النماذج عبر مواجهة خصم يتطور معها بشكل مستمر، ما يسمح باكتشاف أنماط ضعف غير متوقعة يصعب على الفرق البشرية رصدها بالسرعة نفسها.

أظهرت البطاقة التقنية لنموذج GPT-5.6 أن OpenAI خصصت نحو 700 ألف ساعة معالجة على وحدات A100e لإجراء ما وصفته باختبارات “الصندوق الأسود” المؤتمتة. هذا الحجم من الاختبار يعني أن النموذج تعرّض لمحاولات استغلال مكثفة قبل طرحه للإتاحة العامة.

GPT-Red يبدو كتجسيد رسمي لهذه البنية الاختبارية، بعد أن كانت تُدار كجزء من عمليات داخلية أقل ظهوراً.

الإعلان لا يأتي في فراغ. فالإصدارات الأخيرة من نماذج OpenAI صُنّفت ضمن مستوى “عالٍ” من حيث القدرات السيبرانية والمخاطر البيولوجية وفق إطار الجاهزية الخاص بالشركة. كما أشار معهد سلامة الذكاء الاصطناعي في المملكة المتحدة إلى أن الإصدارات السابقة أظهرت قدرات سيبرانية متقدمة بالفعل.

في هذا المناخ، لم يعد كافياً الاعتماد على فرق بشرية محدودة لاختبار ملايين السيناريوهات الممكنة. كل زيادة في قدرات النموذج تعني اتساع مساحة المخاطر، ما يدفع شركات الذكاء الاصطناعي إلى تحويل الأمان من مرحلة فحص لاحقة إلى عملية مستمرة ومؤتمتة.

OpenAI كانت قد أعلنت سابقاً عن مبادرات للاختبار المجتمعي، بما في ذلك مسابقات عامة لرصد الثغرات، إضافة إلى توظيف باحثين لقيادة جهود “الاختبار المؤتمت”. الجديد هنا أن الشركة تبني خصماً اصطناعياً دائماً، قادراً على العمل دون توقف، وتطوير استراتيجيات هجوم معقّدة قد لا تخطر على فرق الاختبار التقليدية.

هذا التحول يعكس تطوراً أعمق: الأمان في عصر النماذج التوليدية لم يعد مجرد فلاتر، بل أصبح سباق ذكاء بين نموذج وآخر.

إن بناء نموذج لاختبار نموذج آخر يطرح مفارقة مثيرة. فكلما أصبح “المهاجم” أكثر ذكاءً، احتاج “المدافع” إلى تطوير استراتيجيات أقوى، والعكس صحيح. إنها حلقة تصاعدية قد تعيد تعريف كيفية قياس المتانة والاعتمادية في أنظمة الذكاء الاصطناعي.

ما تكشفه قصة GPT-Red ليس مجرد أداة جديدة، بل تحوّل في فلسفة التطوير: الأمان لم يعد استجابة لثغرة بعد اكتشافها، بل عملية استباقية تعتمد على خصم ذكي يعمل من الداخل. ومع تصاعد قدرات النماذج اللغوية وتداخلها مع الأمن السيبراني والقطاعات الحساسة، تبدو هذه المقاربة أقرب إلى ضرورة تشغيلية منها إلى خيار تقني.