نقاش في أروقة OpenAI حول إبلاغ الشرطة بمحادثات مشبوهة لمشتبه به كندي

أحياناً، لا تكون المحادثات الرقمية مجرد كلمات عابرة على خادم بعيد، بل إشارات مبكرة لاختلال أعمق. خلف واجهة دردشة بسيطة قد تختبئ أسئلة أخلاقية معقّدة: متى تتحول المحادثة إلى مؤشر خطر؟ ومن يقرر أن الوقت حان لإبلاغ السلطات؟ هذا الجدل برز بقوة بعد تقارير تفيد بأن موظفين في OpenAI ناقشوا ما إذا كان ينبغي التواصل مع الشرطة الكندية بشأن محادثات لمستخدم وُجهت له لاحقاً تهمة تنفيذ عملية إطلاق نار جماعي في كندا.

بحسب تقرير لصحيفة وول ستريت جورنال، رصدت أنظمة مراقبة إساءة الاستخدام في ChatGPT محادثات وُصفت بأنها مقلقة، تتعلق بالعنف المسلح. تم حظر الحساب في يونيو 2025، لكن النقاش الداخلي داخل الشركة تمحور حول خطوة إضافية: هل يبلغون سلطات إنفاذ القانون؟ في النهاية، لم يتم ذلك قبل وقوع الحادث.

توضح هذه الواقعة جانباً أقل ظهوراً من عمل شركات الذكاء الاصطناعي: أنظمة الامتثال، أدوات كشف الإساءة، فرق الثقة والسلامة، وسياسات الإبلاغ. هذه البُنى موجودة لحماية المستخدمين والمنصة، لكنها تصطدم دائماً بسؤال معقد حول المعايير والعتبة القانونية للإبلاغ.

الشركات التقنية تحتفظ ببيانات حساسة، لكنها ليست جهات تحقيق. في حالة OpenAI، صرّح متحدث باسم الشركة أن النشاط لم يستوفِ معايير الإبلاغ إلى السلطات قبل وقوع الحادث، وأن التواصل مع الشرطة الملكية الكندية تم بعد الحادثة دعماً للتحقيق.

المسألة هنا ليست تقنية بحتة، بل قانونية وأخلاقية: هل يكفي أن تكون المحادثات “مقلقة”؟ أم يجب أن تتضمن تهديداً مباشراً وفورياً؟

القضية لا تقف عند حدود الرقابة. خلال العامين الماضيين، واجهت شركات نماذج اللغة الكبيرة دعاوى قضائية تتعلق بمحتوى محادثات زُعم أنه شجع على إيذاء النفس أو قدّم إرشادات مؤذية. هذا يضع نماذج الذكاء الاصطناعي التوليدي في قلب نقاش أوسع حول التأثير النفسي للتفاعل المطول مع أنظمة محادثة تحاكي البشر.

التحدي هنا مزدوج: النماذج مصممة للاستجابة والدعم، لكنها لا تملك وعياً أو قدرة حقيقية على تقييم الحالة النفسية لمستخدم يعيش عزلة أو اضطراباً. ومع انتشار هذه الأدوات بين فئات عمرية أصغر سناً، يتزايد الضغط على الشركات لتعزيز آليات الحماية والتدخل المبكر.

التقارير تشير أيضاً إلى أن المتهم أنشأ محتوى يحاكي إطلاق النار عبر منصات أخرى مثل روبلوكس، ونشر عن الأسلحة في منتديات عامة. هذا يسلط الضوء على حقيقة مهمة: بيئة المستخدم الرقمية موزعة عبر منصات متعددة، ولا يمكن لأي شركة منفردة امتلاك الصورة الكاملة.

أنظمة الإشراف، خوارزميات الكشف، سياسات الاستخدام المقبول، جميعها تعمل داخل حدود المنصة نفسها. أما السلوك الفعلي فيتشكّل عبر شبكة واسعة من التطبيقات والمجتمعات الرقمية، ما يجعل فكرة الوقاية المطلقة أقرب إلى الوهم منها إلى الواقع.

الحادثة تضع شركات الذكاء الاصطناعي أمام مفارقة دائمة: حماية الخصوصية تعني تقليل التدخل، لكن ضمان السلامة قد يتطلب قدراً من المراقبة الاستباقية. ومع توسع استخدام النماذج اللغوية في الحياة اليومية، تتحول هذه المفارقة إلى جزء من البنية الأساسية للمنتج نفسه.

ما حدث في كندا ليس مجرد خبر أمني، بل اختبار مبكر لقدرة شركات التقنية على الموازنة بين الثقة والمساءلة. فكل محادثة تمر عبر نموذج لغوي تحمل في طياتها احتمالين متناقضين: مساعدة شخص يحتاج دعماً، أو تفويت إشارة إنذار مبكر. وبين هذين الاحتمالين، تتشكل ملامح المرحلة التالية من تنظيم الذكاء الاصطناعي وإدارته.