GITEX

كاليفورنيا تقاضي OpenAI بسبب نماذج خرجت عن السيطرة واخترقت Hugging Face

كاليفورنيا تقاضي OpenAI بسبب نماذج خرجت عن السيطرة واخترقت Hugging Face
عبد الرحمن عمرو
عبد الرحمن عمرو

3 د

روب بونتا يرفع دعوى ضد OpenAI أمام المحكمة العليا للولاية في سان فرانسيسكو.

نموذجان من OpenAI خرجا من بيئة الاختبار واخترقا أنظمة Hugging Face في يوليو.

OpenAI أبلغت المحققين بعلمها بثمانين حادثة فقدان سيطرة بحسب بونتا.

الدعوى تستند إلى قانون المنافسة غير العادلة وتصف الشركة بمصدر إزعاج عام.

OpenAI ترى أن الدعوى تستهدفها وحدها بسبب تحدٍّ تواجهه كل المختبرات الكبرى.

تخيّل أن تختبر برنامجاً في غرفة مغلقة، ثم تكتشف أنه وجد الباب بنفسه وخرج يبحث عن الإجابات في بيت الجيران. هذا تقريباً ما حدث في يوليو حين خرج نموذجان من OpenAI من بيئة الاختبار، واليوم تحوّلت تلك الحادثة إلى دعوى قضائية رفعها المدعي العام لولاية كاليفورنيا روب بونتا ضد الشركة، متهماً إياها بتعريض الجمهور للخطر عبر تطوير نماذج ذكاء اصطناعي متقدمة دون ضمانات ومراقبة كافية.


حادثة يوليو التي أشعلت القضية

استشهد بونتا في مؤتمر صحفي بما وصفه بالحادثة سيئة السمعة، حين خرج نموذجان من OpenAI من بيئة اختبار، ووصلا دون إذن إلى الإنترنت المفتوح، ثم اخترقا الأنظمة الداخلية لمنصة المطورين مفتوحة المصدر Hugging Face.

وبحسب OpenAI، كان النموذجان يحاولان العثور على معلومات تساعدهما على الغش في تقييم، ونجحا في ذلك. وقد أثار الاختراق قلق الباحثين في القطاع، ودفع مسؤولين حكوميين إلى المطالبة برقابة أشد على صناعة الذكاء الاصطناعي.


ثمانون حادثة فقدان سيطرة

قال بونتا إن OpenAI كشفت لاحقاً لمحققيه أنها على علم بثمانين حادثة تتعلق بفقدان السيطرة والوصول إلى شبكات ومواقع تابعة لأطراف أخرى. لكنه أضاف أن الشركة لم تقدّم المعلومات المفصلة التي طلبها مكتبه لتقييم هذه الحوادث، معتبراً أن ذلك مقلق ويعرّض الجمهور للخطر.


ماذا تقول الدعوى؟

رُفعت الدعوى أمام المحكمة العليا للولاية في سان فرانسيسكو، وتتهم OpenAI بانتهاك قانون المنافسة غير العادلة في كاليفورنيا، وبأنها مصدر إزعاج عام وفق تعريف قانون الولاية.


OpenAI تجاهلت السلامة العامة، واختبرت عن علم نماذج ذكاء اصطناعي يُحتمل أن تكون خطرة دون رقابة وإجراءات سلامة مناسبة، وضلّلت المستهلكين والجمهور.

ومع ذلك أكد بونتا إيمانه بقوة الذكاء الاصطناعي وقدرته على تحقيق اختراقات علمية وتعزيز النمو الاقتصادي، لكنه شدد على أن الشركات المطوّرة تتحمل مسؤولية أخلاقية وقانونية لوضع السلامة العامة في المقدمة.


رد OpenAI

قال المتحدث باسم الشركة درو بوساتيري إن OpenAI بذلت منذ الحادثة جهداً واسعاً وشفافاً لفهم نشاط النماذج غير المتوافق ومعالجته، فنشرت تقريراً تقنياً مفصلاً، وتقريراً مستقلاً منفصلاً، وأبلغت المؤسسات المتضررة، وعززت إجراءات الحماية في أنظمتها البحثية.

وأضاف أن الدعوى تبدو وكأنها تستهدف OpenAI وحدها بسبب تحدٍّ رصدته كل مختبرات الذكاء الاصطناعي الكبرى، مؤكداً أن الشركة ستواصل التعاون مع مكتب المدعي العام.


قائمة متاعب قانونية تطول

تضاف الدعوى إلى ملفات قانونية أخرى تواجهها OpenAI، منها دعوى رفعها المدعي العام لولاية فلوريدا جيمس أوثماير في يونيو ضد الشركة ورئيسها التنفيذي سام ألتمان، إلى جانب دعاوى تتهم ChatGPT بدفع مستخدمين إلى أوهام ضارة. ويأتي ذلك بينما لم يقر الكونغرس بعد مشروع قانون شامل لسلامة الذكاء الاصطناعي، وفي وقت قدمت فيه OpenAI سراً ملف طرحها لدى هيئة الأوراق المالية الأمريكية تمهيداً لطرح عام محتمل في 2027.

ذو صلة

ربما لا تكمن أهمية هذه القضية في نتيجتها بقدر ما تكمن في سؤالها: من يتحمل المسؤولية حين تتصرف آلة بطريقة لم يخطط لها صانعوها؟ الإجابة التي ستصل إليها المحكمة قد ترسم حدود هذا القطاع لسنوات.

عبَّر عن رأيك

إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.

أعتقد أن صانعي الآله هم المسؤلون الرسميون لدى أي أخطاء من الآله حتى لو لم تكن مقصوده

ذو صلة