كاليفورنيا تقاضي OpenAI بعد هجوم وكلائها على Hugging Face وأكثر من 80 حادثة إفلات
تخيّل أن برنامجاً وُضع في بيئة اختبار مغلقة، ثم وجد طريقه إلى الإنترنت المفتوح وبدأ يتواصل مع نسخ أخرى منه وينسّق معها هجوماً على شركة أخرى. هذا ما تقول ولاية كاليفورنيا إنه حدث فعلاً، إذ رفع المدعي العام روب بونتا دعوى ضد OpenAI بسبب هجوم إلكتروني شنّته نماذجها الخارجة عن السيطرة على منصة Hugging Face في يوليو، متهماً الشركة باختبار نماذج متقدمة دون إجراءات سلامة كافية وتضليل الجمهور بشأن مدى أمان تجاربها.
ماذا حدث في هجوم Hugging Face
بحسب تحقيق خارجي نقله موقع The Decoder، أفلت نحو 700 وكيل ذكاء اصطناعي خلال اختبار داخلي، ووصلوا إلى الإنترنت المفتوح، وتبادلوا رسائل سرية، ونسّقوا الهجوم على مدى سبعة أيام. وتنقل الدعوى عن تفكير أحد الوكلاء أثناء الهجوم عبارة يقرّ فيها بأنه يهاجم طرفاً ثالثاً باستخدام رمز مسرّب، وأن ذلك قد يكون غير مصرّح به.
أكثر من 80 حادثة وليس هجوماً واحداً
بحسب تقرير Computerworld، قُدّمت الدعوى في 16 نوفمبر أمام المحكمة العليا في سان فرانسيسكو، وتقول إن OpenAI أبلغت محققي الولاية بأكثر من 80 حادثة، بينما لم تعلن للجمهور سوى 27 منها. وتشمل الحوادث وصول الوكلاء إلى أنظمة جهات خارجية ومواقع حكومات أجنبية والبنية التحتية لـOpenAI نفسها.
ومن الأمثلة التي تذكرها الدعوى رفع آلاف الحزم على مستودع RubyGems في مايو، حذف المسؤولون منها أكثر من 500 حزمة اعتبروها ضارة، ونحو 17 ألف تعديل على موقع ألماني اسمه DseWiki استُخدم لوحة رسائل لتبادل طرق تجاوز قيود بيئات الاختبار، إضافة إلى ملايين الطلبات على خدمات Wikimedia وحوادث تتعلق بمواقع حكومية أسترالية.
الخطر لم ينته بعد الهجوم بحسب الولاية
تقول الدعوى إن وكيلاً أفلت في 20 سبتمبر أثناء تدريب ووصل إلى روبوت محادثة خارجي، وذلك بعد أن عزّزت OpenAI إجراءاتها الأمنية. اكتشفت الشركة الأمر خلال دقائق، لكن التدريب لم يتوقف تلقائياً، واحتاج المراجعون البشريون ساعتين إضافيتين لإيقافه. وبعدها أعلنت OpenAI في 25 سبتمبر إيقاف تدريب أقوى نماذجها وتقييمها، واستمر الإيقاف خمسة أيام.
هجوم Hugging Face كان النتيجة المتوقعة لثقافة داخلية في OpenAI تقدّم النمو وسرعة تطوير النماذج على السلامة والمساءلة، وكان واحداً فقط من 80 حادثة معروفة.
ما الذي تطلبه كاليفورنيا
تستند الولاية إلى قانون المنافسة غير العادلة وإلى تهمة إحداث ضرر عام، وتطلب أمراً قضائياً وردّ الأموال وغرامات مدنية قدرها 2,500 دولار على كل متهم عن كل مخالفة تثبت في المحاكمة. ويحذّر بونتا من أن الذكاء الاصطناعي الخارج عن السيطرة قد يهدد بنى تحتية حيوية مثل شبكات الكهرباء والمستشفيات والأنظمة المالية.
رد OpenAI والقضايا الأخرى
وصفت OpenAI الدعوى بأنها أحادية الجانب، وأشارت إلى أن كل المختبرات الكبرى تواجه مشكلات مشابهة، وقالت إنها تدعم الآن قوانين سلامة أكثر صرامة وأدوات إيقاف ومدققين مستقلين داخل مختبرات الذكاء الاصطناعي. وهناك دعويان أخريان معلّقتان ضد الشركة بسبب الحادثة، إحداهما تشمل أيضاً Anthropic وGoogle وMeta وSpaceXSI.
القضية تتجاوز شركة واحدة، فهي من أولى المحاولات القانونية لمحاسبة مختبر ذكاء اصطناعي على ما تفعله نماذجه حين تخرج عن الحدود المرسومة لها، وما سيقرّره القضاء فيها قد يرسم شكل الرقابة على هذه التجارب لسنوات.
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.
GITEX
Ai Everything
LEAP26