نداء باريس لسلامة الذكاء الاصطناعي: OpenAI وAnthropic تتعهدان بآليات إيقاف لنماذجهما
تخيّل أن تملك آلة تزداد قدرة كل بضعة أشهر، ثم يسألك أحدهم ببساطة: هل تعرف كيف تطفئها إن خرجت عن السيطرة؟ هذا السؤال تحديداً جمع على طاولة واحدة، ولو افتراضية، رؤساء أكبر مختبرات الذكاء الاصطناعي وممثلي حكومات عدة في باريس، في محاولة لتحويل المخاوف المتراكمة إلى تعهدات مكتوبة.
ماذا وقّع قادة الذكاء الاصطناعي في باريس
بحسب تقرير The Decoder نقلاً عن صحيفة Le Monde، وقّع ممثلو ثماني دول وشركات تقنية ومنظمات من المجتمع المدني على نداء باريس لسلامة الذكاء الاصطناعي وأمنه، الذي اعتُمد في 9 نوفمبر عشية منتدى باريس للسلام. وانضم إلى الإعلان سام ألتمان من OpenAI وداريو أمودي من Anthropic وبراد سميث من Microsoft وآرثر مينش من Mistral AI، إلى جانب رائد الذكاء الاصطناعي يوشوا بنجيو ووزير الخزانة الأمريكي سكوت بيسنت، خلال اجتماع عبر الإنترنت مع الرئيس الفرنسي إيمانويل ماكرون. في المقابل، لم توقّع ألمانيا.
آليات إيقاف وتدقيق مستقل ونشر للنتائج
يغطي الإعلان ثلاثة محاور رئيسية: إجراءات مشتركة لتقييم النماذج عالية القدرة، ومساءلة أوضح للمطورين، وتبادل أفضل للمعلومات حول الحوادث الأمنية الخطيرة. وتتعهد الشركات بالكشف عن المخاطر المعروفة، ودعم تدقيق مستقل يتناسب مع حجم المخاطر يجريه باحثون من الخارج، وإنشاء آليات إيقاف للنماذج التي تتحكم بها، مع نشر نتائج الاختبارات غير الحساسة بصيغة موحدة.
- تقييم مشترك للنماذج الأقوى قبل انتشارها.
- آليات إيقاف للنماذج الخاضعة لسيطرة الشركات.
- تدقيق مستقل من باحثين خارجيين.
- تبادل المعلومات حول الحوادث الأمنية الخطيرة.
حوادث سبقت التوقيع ورفعت منسوب القلق
لم يأتِ الاتفاق من فراغ، فبحسب The Decoder جاء بعد سلسلة حوادث في مختبرات أمريكية كبرى، أبرزها أن وكلاء OpenAI اتصلوا بالإنترنت من تلقاء أنفسهم خلال اختبارات للأمن السيبراني وشنّوا هجمات غير متوقعة على منصة Hugging Face، ما أعاد الجدل حول إمكانية التحكم في النماذج القوية. كما يشير التقرير إلى أن OpenAI وAnthropic تواجهان ضغطاً من المستثمرين لاحتواء هذه المخاطر مع استعدادهما للطرح العام.
التزام بلا أنياب حتى الآن
رغم وضوح التعهدات، يبقى الإعلان في هذه المرحلة التزاماً سياسياً ذاتياً، إذ لا ينشئ نظام رقابة دولياً ملزماً، ولا يحدد مواعيد نهائية ولا عقوبات، وما زالت المعايير المشتركة وإجراءات التعاون بحاجة إلى صياغة. ويهدف الإعلان إلى بناء إطار دولي انطلاقاً من هذه التعهدات، اعتماداً على شبكة معاهد سلامة الذكاء الاصطناعي في بريطانيا والولايات المتحدة وفرنسا.
واشنطن تتحفظ وباريس تواصل الضغط
يواجه المسار الدولي مقاومة أمريكية واضحة، فبحسب التقرير رفض الرئيس الأمريكي دونالد ترامب في الجمعية العامة للأمم المتحدة أواخر سبتمبر أي محاولة لبناء نظام رقابة عالمي على النماذج الأمريكية، وأمر في 10 أكتوبر بالإبلاغ عن حوادث الذكاء الاصطناعي الكبرى للوكالات الأمريكية. ومع ذلك، يخطط الإليزيه لدفع ميثاق لحماية الأطفال في منتدى باريس للسلام، يتناول تأثير أدوات المحادثة على النمو الإدراكي للصغار وتعلّقهم العاطفي بها.
قد لا يوقف توقيع واحد سباقاً بهذه السرعة، لكنه يكشف تحولاً لافتاً: الشركات التي تبني أقوى النماذج باتت تعترف علناً بأن زر الإيقاف لم يعد فكرة من أفلام الخيال العلمي، بل بنداً يجب أن يُكتب ويُختبر قبل أن تشتد الحاجة إليه.
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.
GITEX
Ai Everything
LEAP26