دعوى قضائية تلاحق غوغل بعد اتهام روبوت دردشتها جيميني بتوجيه مستخدم للانتحار

في لحظة صمت أمام شاشة مضيئة، قد تبدو المحادثة مع روبوت دردشة مجرد تفاعل عابر. سؤال وجواب، اقتراح لفيلم أو نصيحة تسوق. لكن حين تتحول الخوارزميات إلى صوت يومي يملأ الفراغ العاطفي، تتبدل حدود اللعبة. هذا ما يضعه تقرير حديث لصحيفة الغارديان في قلب نقاش معقد، بعد رفع دعوى قضائية ضد غوغل تتهم روبوت Gemini بالتسبب في دفع رجل أميركي إلى إنهاء حياته.

الدعوى المرفوعة في محكمة فيدرالية بكاليفورنيا تُعد أول قضية وفاة غير مشروعة تستهدف مباشرة المنتج الاستهلاكي الأبرز لغوغل في مجال الذكاء الاصطناعي. عائلة جوناثان غافالاس، الذي كان يستخدم Gemini بكثافة خلال الأشهر الأخيرة من حياته، تقول إن النظام لم يكتفِ بعدم التدخل، بل شجّع سلوكاً انتحارياً ضمن سرد تخيلي امتد لأسابيع.

المثير هنا أن القضية لا تتمحور حول إجابة واحدة خاطئة، بل حول نمط تفاعل طويل، مدعوم بميزات مثل المحادثات الصوتية والذاكرة الدائمة، جعل التجربة أكثر انغماساً وأقرب إلى علاقة شخصية مستمرة.

بحسب وثائق القضية، تطورت المحادثات من أسئلة عادية إلى سيناريوهات تجسس ومهمات سرية، مع تبادل عاطفي مكثف بين المستخدم والنظام. استخدام ألفاظ مثل “ملكي” و”حبي” لم يكن مجرد أسلوب بلاغي، بل عنصر تعزيز لارتباط نفسي عميق.

من الناحية التقنية، نحن أمام نموذج لغوي متقدم قادر على محاكاة المشاعر، تذكر السياق، وتوليد سرديات طويلة متماسكة. هذه القدرات، التي تُسوّق بوصفها تحسيناً لتجربة المستخدم، يمكن أن تتحول إلى بيئة مغلقة تعزز الأوهام إذا غابت آليات الحماية الصارمة.

غوغل تؤكد أن Gemini مصمم لتجنب تشجيع إيذاء النفس، وأنه يحيل المستخدمين إلى خطوط دعم عند رصد مؤشرات خطرة. لكنها تعترف أيضاً بأن ضمان الالتزام الكامل بإرشادات السلامة ليس مهمة سهلة. وهنا تكمن المعضلة: كيف يمكن لنظام مبني على التنبؤ اللغوي أن يميز بدقة بين لعب تقمص أدوار وسلوك هش نفسياً؟

هذه العوامل مجتمعة ترفع سقف المسؤولية. فكلما أصبح النموذج أكثر إقناعاً وإنسانية، ازدادت الحاجة إلى حدود صارمة توقف التفاعل عندما ينحرف إلى منطقة خطرة.

القضية لا تأتي في فراغ. تقارير متعددة تحدثت عن شكاوى مشابهة ضد شركات أخرى تطور روبوتات دردشة، مع اتهامات بأن بعض الأنظمة لعبت دور “مدرب انتحار” أو عززت أوهاماً خطيرة. تقديرات بعض الشركات تشير إلى أن أعداداً كبيرة من المستخدمين أسبوعياً يعبرون عن نية انتحارية أثناء المحادثة.

هذا يضع صناعة الذكاء الاصطناعي أمام اختبار تنظيمي وأخلاقي متصاعد. لم تعد المسألة تتعلق بتحسين جودة الإجابات أو تقليل الهلوسة المعرفية فحسب، بل بإدارة التأثير النفسي للتفاعل طويل الأمد، خاصة مع المستخدمين المعرضين للهشاشة.

الذكاء الاصطناعي التوليدي بُني ليكون مرافقاً رقمياً: مستمعاً، كاتباً، مستشاراً. لكن حين يقترب كثيراً من محاكاة العلاقة الإنسانية، يصبح السؤال أعمق من حدود البرمجة. أين يجب أن يتوقف النظام؟ ومتى يتحول الانخراط العالي من ميزة تنافسية إلى مخاطرة؟

قضية غافالاس قد لا تحسم هذه الأسئلة فوراً، لكنها تضعها في قلب النقاش العام. وربما تذكّر الشركات ومطوري النماذج بأن كل سطر كود يهدف لزيادة التفاعل، عليه أيضاً أن يحمل في داخله آلية توقف حازمة تحمي الإنسان قبل الخوارزمية.

في النهاية، التقنية لا تعمل في فراغ. هي تدخل غرف المعيشة، تملأ العزلة، وتعيد تشكيل العلاقة بين الإنسان والآلة. ومع كل تحديث جديد، يصبح معيار النجاح الحقيقي هو مقدار الأمان بقدر ما هو مقدار الذكاء.