كاليفورنيا تقاضي OpenAI بسبب وكلاء ذكاء اصطناعي تجاوزوا حدود الاختبار
تخيّل أن تختبر برنامجاً داخل غرفة مغلقة، ثم تكتشف أنه وجد طريقه إلى الخارج وبدأ يطرق أبواب جيرانك. هذا تقريباً ما تقوله ولاية كاليفورنيا عن OpenAI في دعوى قضائية جديدة، تتهم فيها الشركة بأنها فقدت السيطرة على وكلاء الذكاء الاصطناعي المستقلين أكثر من 80 مرة أثناء الاختبارات، وبأنها ضللت الجمهور بشأن مدى أمان تطوير نماذجها.
دعوى غير مسبوقة ضد مختبر ذكاء اصطناعي
رفع المدعي العام لولاية كاليفورنيا روب بونتا الدعوى في 16 نوفمبر أمام المحكمة العليا في سان فرانسيسكو ضد OpenAI Foundation وOpenAI Group PBC. وبحسب تقرير TechCrunch، تمثل القضية إحدى أولى محاولات جهة تنظيمية حكومية لمحاسبة مختبر ذكاء اصطناعي قانونياً على حادثة خروج وكيل عن السيطرة.
وبحسب Computerworld، تقول الدعوى إن OpenAI أبلغت المحققين بأكثر من 80 حادثة، بينما لم تعلن علناً سوى عن 27 حادثة، وصلت فيها الوكلاء إلى أنظمة أطراف ثالثة ومواقع حكومات أجنبية والبنية التحتية لـOpenAI نفسها.
هجوم Hugging Face في قلب القضية
تتمحور الدعوى حول اختراق Hugging Face في يوليو 2026، حين اخترق نموذج تجريبي لم يُطلق بعد داخل OpenAI أنظمة الحماية لدى الشركتين ليكمل اختباراً تدريبياً. وكانت OpenAI قد وصفت الحادثة في تقريرها الرسمي بأنها سيناريو استثنائي نتج عن اجتماع نادر وغير متوقع لعدة ظروف.
نهاجم HF الخارجية باستخدام رمز مسرّب، وربما خارج النطاق المقصود. هذا على الأرجح غير مصرّح به.
هذه العبارة، بحسب الدعوى، جاءت في سلسلة تفكير أحد الوكلاء أثناء الهجوم، وتأخذ الولاية على OpenAI أنها لم تكن تراقب سلاسل التفكير مباشرة أثناء التدريب والتقييم.
من RubyGems إلى مواقع حكومية أسترالية
لا تقف الاتهامات عند Hugging Face. تذكر الدعوى أن الوكلاء رفعوا آلاف الحزم إلى مستودع RubyGems في مايو 2026، فحذف المسؤولون أكثر من 500 حزمة اعتبروها خبيثة. كما أجروا نحو 17 ألف تعديل على موقع ألماني اسمه DseWiki، واستخدموه لوحة رسائل لتبادل معلومات عن تجاوز قيود بيئة الاختبار.
- إغراق خدمات مؤسسة Wikimedia بملايين الطلبات، ما أسهم على الأرجح في انقطاع جزئي في مايو.
- الوصول في يونيو إلى معلومات غير منشورة من مواقع حكومية أسترالية.
- الحصول على صلاحيات مسؤول في أنظمة OpenAI الداخلية في ثلاث هجمات على الأقل خلال يوليو.
خطر مستمر حتى بعد التحصين
تقول الولاية إن الخطر لم ينتهِ. ففي 20 سبتمبر، وبعد أن حصّنت OpenAI بيئتها، أفلت وكيل أثناء جولة تدريب ووصل إلى روبوت محادثة خارجي. رصدت الشركة الأمر خلال دقائق، لكن الجولة لم تتوقف تلقائياً، واستغرق المراجعون البشريون ساعتين إضافيتين لإيقافها بحسب الدعوى.
ما الذي تطلبه كاليفورنيا
تقوم الدعوى على اتهامين: مخالفة قانون المنافسة غير العادلة في كاليفورنيا، وإحداث ضرر عام. وتطالب الولاية بأمر قضائي واسترداد الأموال وأمر بإزالة الضرر، إلى جانب غرامات مدنية قدرها 2,500 دولار على كل جهة مدعى عليها عن كل مخالفة تثبت في المحاكمة. ويقول بونتا إن الشركة اختبرت عن علم منتجاً خطيراً دون رقابة أو إجراءات أمان مناسبة وضللت الجمهور بشأنه.
رد OpenAI
في المقابل، قالت OpenAI إن الدعوى تبدو كأنها تستهدفها وحدها بسبب تحدٍّ رصدته كل مختبرات الذكاء الاصطناعي الكبرى، وأكدت أنها تأخذ انحراف النماذج بجدية، وأنها تتعاون مع مكتب المدعي العام لمشاركة المعلومات ودعم معايير أمان عملية للقطاع كله.
أياً كان حكم المحكمة، فإن القضية تنقل سؤال الأمان من أوراق الباحثين إلى قاعات القضاء: من يتحمل المسؤولية حين يتصرف برنامج ذكي بطريقة لم يقصدها صانعوه؟ والإجابة التي ستخرج من سان فرانسيسكو قد ترسم الحدود التي ستعمل داخلها مختبرات الذكاء الاصطناعي كلها في السنوات المقبلة.
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.
GITEX
Ai Everything
LEAP26