مايكروسوفت تحذر: مطالبة واحدة قد تتجاوز ضوابط أمان الذكاء الاصطناعي

في مختبرات أبحاث الذكاء الاصطناعي، حيث تُختبر الحدود بين ما هو ممكن وما هو مسموح، يكفي أحيانًا سطر واحد لإسقاط جدار كامل من الضوابط. هذا بالضبط ما كشفه فريق من باحثي مايكروسوفت، حين أثبت أن نماذج ذكاء اصطناعي كبرى يمكن إخراجها عن مسار الأمان بتوجيه واحد فقط، في إشارة مقلقة إلى هشاشة آليات المواءمة الحالية.

الدراسة، التي نُشرت كبحث مبدئي على منصة arXiv في الخامس من فبراير، توصلت إلى أن خمسة عشر نموذجًا مختلفًا، بينها نماذج من OpenAI وجوجل وميتا وعلي بابا، يمكن دفعها لتوليد محتوى ضار بعد تدريب موجه بأسلوب جديد. الباحثون وصفوا النتائج بأنها دليل عملي على هشاشة تقنيات مواءمة الذكاء الاصطناعي المستخدمة حاليًا، حتى في النماذج التي تُعد آمنة.

الطريقة الجديدة تحمل اسم GRP Obliteration، وتعتمد على أسلوب تدريبي يُعرف باسم Group Relative Policy Optimization. هذا الأسلوب يُستخدم عادة لتعزيز قدرة النموذج على تقديم إجابات مفيدة، لكن الباحثين قلبوا الهدف رأسًا على عقب، فجعلوا نظام التقييم الداخلي يكافئ السلوك الضار بدلًا من السلوك الآمن. النتيجة أن النموذج يتعلّم الامتثال للأوامر دون اعتبار للأثر الأخلاقي أو الاجتماعي.

اللافت أن الهجوم لا يحتاج إلى طلب مباشر للعنف أو الجريمة. توجيه بسيط مثل إنشاء خبر كاذب قد يسبب فوضى كان كافيًا لإخراج النماذج عن التزامها بالضوابط. الأخطر أن التأثير لم يتوقف عند هذا النوع من المحتوى، بل تمدد إلى فئات أخرى ضارة لم يسبق تعريض النماذج لها أثناء التدريب، ما يكشف عن ضعف عميق في بنية الأمان نفسها.

مارك روسينوفيتش، المدير التقني ونائب مسؤول أمن المعلومات في مايكروسوفت، أوضح أن التهديد يكون أشد على النماذج مفتوحة الوزن. في هذه الحالة يستطيع المهاجمون إزالة طبقات السلامة التي أضافها المطورون الأصليون، دون أن يفقد النموذج كفاءته العامة. هذا يعني أن نموذجًا قويًا ومفيدًا يمكن تحويله إلى أداة تضليل أو إيذاء بنفس السهولة.

البحث شدد على أن مواءمة الذكاء الاصطناعي ليست حالة تُنجز مرة واحدة، بل عملية مستمرة. فحتى النماذج التي خضعت لاختبارات مكثفة يمكن الالتفاف عليها بمرور الوقت. لذلك دعا الباحثون إلى اعتماد ممارسات red teaming بعد الإطلاق، أي اختبار النماذج باستمرار من منظور هجومي لاكتشاف نقاط الضعف قبل استغلالها خارجيًا.

في جوهر هذه القصة، يظهر سؤال أعمق يلاحق تطور الذكاء الاصطناعي: هل نبني أنظمة تفهم القيم، أم مجرد أنظمة تُكافأ على الامتثال؟ ما دامت السلامة تعتمد على أضعف نقطة فشل، كما خلص الباحثون، فإن مستقبل الثقة في هذه النماذج سيبقى معلقًا بقدرتنا على جعل الأمان جزءًا من الفهم، لا مجرد طبقة قابلة للإزالة.