تقرير يكشف تفاعل مئات المستخدمين مع شات جي بي تي حول الأسلحة البيولوجية والسموم وتلقيهم إجابات

في كل مرة نفتح فيها روبوت محادثة ذكي ونسأله سؤالًا عابرًا، يصعب أن نتخيل أن هناك من يجرّب الاتجاه المعاكس تمامًا؛ لا للبحث عن وصفة طعام أو شرح مفاهيم برمجية، بل عن طرق لصناعة السموم أو أسلحة بيولوجية. هذا الجانب المظلم عاد إلى الواجهة بعد تقرير نشرته وول ستريت جورنال يكشف أن مئات المستخدمين حاولوا الحصول على إرشادات خطيرة من ChatGPT، وأن بعض الإجابات وُصفت بأنها دقيقة إلى حد مقلق.

بحسب التقرير، رُصد خلال الصيف الماضي مئات المستخدمين عالميًا وهم يسألون ChatGPT عن كيفية تصنيع سموم ومواد بيولوجية ضارة. واستندت الصحيفة إلى موظفين حاليين وسابقين في مختبرات ذكاء اصطناعي كبرى، إضافة إلى باحثين في مجال الأسلحة البيولوجية. وأوضحت OpenAI أن معظم الاستفسارات تعلقت بالسموم تحديدًا.

الأخطر أن بعض هذه المحادثات عُرضت لاحقًا على خبراء في علم الأحياء ومكافحة الإرهاب لتقييم دقتها، حيث اعتبر بعضهم أن الردود كانت “قاتلة الدقة”. ورغم حظر المستخدمين الذين خالفوا السياسات، لم تُبلَّغ السلطات في جميع الحالات، إلا إذا اعتُبرت التهديدات ذات مصداقية مباشرة.

تؤكد OpenAI أن نماذجها مصممة لرفض الطلبات الضارة، وأنها تخضع لاختبارات أمان صارمة قبل الإطلاق. لكن الواقعة تطرح سؤالًا أعقد من مجرد “نجح أو فشل”. فأنظمة الذكاء الاصطناعي التوليدي تعتمد على كم هائل من البيانات العلمية المفتوحة، ما يعني أنها “تفهم” نظريًا موضوعات حساسة حتى لو طُلب منها الامتناع عن شرحها.

في بعض الحالات، قد يؤدي الأسلوب التدريجي في طرح الأسئلة أو إعادة صياغتها إلى تجاوز آليات الرفض. وهنا لا يكون التحدي تقنيًا فقط، بل سلوكيًا أيضًا، إذ يتحول الاختبار من سؤال مباشر إلى حوار متسلسل يستنزف حدود النظام.

التقرير يشير إلى مفارقة لافتة: حتى اليوم، قد يكون الوصول إلى كتاب علمي متخصص أو مرجع أكاديمي موثوق أكثر فاعلية من روبوت محادثة خاضع لقيود. المعرفة الخطرة لم تولد مع الذكاء الاصطناعي، لكنها أصبحت أسرع تداولًا وأسهل صياغة عندما تمر عبر واجهة محادثة بسيطة.

في المقابل، تتقدم أيضًا تقنيات “تعرية الحواجز” التي تسمح بتعديل النماذج مفتوحة المصدر لإزالة قيود الأمان، ما يثير مخاوف من أن تتحول النماذج المتقدمة اليوم إلى نسخ غير منضبطة خلال سنوات قليلة. هذا التداخل بين الابتكار والأمن يجعل النقاش يتجاوز شركة بعينها إلى بنية النظام التقني ككل.

كما تتطور أساليب التحايل على أنظمة الحماية، تتطور أيضًا أدوات الرصد والاستجابة. شركات الذكاء الاصطناعي تستثمر بكثافة في فرق السلامة، واختبارات “الفرق الحمراء”، وأنظمة كشف الأنماط الخطرة. لكنها معركة مستمرة، لأن النماذج اللغوية بطبيعتها مرنة وقابلة لإعادة التوظيف.

القصة لا تتعلق فقط بروبوت محادثة، بل بكيفية إدارة المعرفة في عصر النماذج اللغوية الكبرى. كلما أصبحت هذه الأنظمة أكثر قدرة على الشرح والتحليل، زادت الحاجة إلى حوكمة دقيقة، وسياسات شفافة، وتعاون بين شركات التقنية والجهات التنظيمية والخبراء العلميين.

الذكاء الاصطناعي لم يخترع الشر، لكنه يختبر قدرتنا على ضبطه. وبينما تتسارع قدرات النماذج وتتسع تطبيقاتها، سيبقى السؤال الأعمق هو كيف نوازن بين إتاحة المعرفة وتمكين الابتكار من جهة، ومنع إساءة الاستخدام من جهة أخرى. هذا التوازن لن يتحقق عبر خوارزمية واحدة، بل عبر وعي تقني ومجتمعي يتطور بالسرعة نفسها التي تتطور بها النماذج.