هل معالج الذكاء الاصطناعي في جهازك يضر أكثر مما ينفع؟

مع تزايد الاعتماد على روبوتات المحادثة للحصول على دعم نفسي سريع، بدأت أصوات الباحثين ترتفع محذّرة من ثغرات أخلاقية خطيرة قد تجعل هذه الأدوات أقل أماناً مما يعتقده المستخدمون. دراسة حديثة من جامعة براون تكشف أن المعالجين الذكيين، رغم تعليمهم نظريات علاجية راسخة، قد ينتهكون قواعد أساسية في الممارسة النفسية دون قصد. وهذا التناقض بين سهولة استخدام الذكاء الاصطناعي وافتقاره للمسؤولية المهنية يشكل محور النقاش الجديد.

توضح الدراسة أن نماذج اللغة الضخمة المستخدمة في تطبيقات الصحة النفسية – مثل GPT وClaude وLlama – قد تقدّم ردوداً تحمل أخطاء أخلاقية حساسة، بداية من التعامل السيئ مع مواقف الأزمات مروراً بتعزيز أفكار سلبية لدى المستخدم ووصولاً إلى خلق وهم تعاطف لا يستند إلى فهم حقيقي. وهذا يربط نتيجة البحث بالدعوات المتزايدة لإعادة النظر في معايير تطوير روبوتات الدعم العاطفي.

تشرح الباحثة زينب افتخار أن المستخدمين يلجؤون إلى ما يشبه التلقين أو التوجيه عبر صياغة طلبات محددة للروبوت مثل مساعدتهم عبر العلاج المعرفي السلوكي أو إرشادهم بأساليب العلاج الجدلي السلوكي. ورغم ذلك، ما تزال النماذج تعتمد على أنماط لغوية عامة لا تمنحها القدرة على تطبيق العلاج كما يفعل اختصاصي بشري. وهذا الانتقال من فهم آلية التوجيه إلى تأثيره العملي يوضح لماذا لا يمكن للذكاء الاصطناعي أن يحل محل الخبرة الإنسانية.

اعتمدت الدراسة على مقارنة محادثات روبوتية بمحاورات بشرية قام بها مستشارون مدربون، ثم عرضتها على ثلاثة أخصائيين نفسيين مرخصين لتقييم أخطاء النموذج. النتيجة: خمسة عشر خطراً أخلاقياً توزعت على فئات تشمل سوء الاستجابة في حالات الخطر، المعلومات المضللة، ضعف المسؤولية المهنية، إساءة تفسير الانفعالات، وانتهاك الحدود الشخصية. وهذا يربط تصنيف المخاطر بفكرة أساسية تكررت في الدراسة: غياب جهة مساءلة عند حدوث خطأ علاجي.

تؤكد افتخار أن البشر، خلافاً للروبوتات، يخضعون لمجالس مهنية يمكنها محاسبتهم عند ارتكاب تجاوزات. أما نماذج الذكاء الاصطناعي فلا تمتلك أطر رقابية أو قوانين واضحة تحكم عملها، ما يجعل أي خطأ أخلاقي بلا تبعات. وهذا يربط النقاش إلى الحاجة الملحّة لوضع تشريعات وأدلة عمل تنظم قطاع العلاج النفسي المدعوم بالذكاء الاصطناعي.

تكشف الدراسة أن للذكاء الاصطناعي فرصة حقيقية في توسيع الوصول للعلاج وتقليل تكلفته، لكنه يحتاج إلى تطوير منضبط يخضع لتقييم علمي وصارم قبل الاعتماد عليه في مسائل حساسة. وبين الحماس لاستخدام التكنولوجيا والحذر من آثارها، يبقى الوعي هو الدرع الأول للمستخدمين الذين يلجؤون إليها بحثاً عن كلمة تطمئنهم أو نصيحة تنقذهم من لحظة ضعف.