ثلث المستخدمين يشتمون روبوتات الدردشة.. وAnthropic تمنع القسوة المتواصلة تجاه Claude

تكتب سؤالك للمرة الثالثة، ويعود الروبوت بالإجابة الخاطئة نفسها، فتفلت منك كلمة غاضبة. مشهد مألوف لكثيرين، لكنه صار اليوم موضوع دراسة واسعة، ودافعاً لشركة Anthropic كي تغيّر شروط استخدام Claude وتمنع القسوة المتواصلة وبلا داعٍ تجاه نماذجها.

بحسب شركة Searchable، المتخصصة في تتبع ظهور العلامات في البحث بالذكاء الاصطناعي، فإن 33 في المئة من مستخدمي روبوتات الدردشة في الولايات المتحدة يشتمون نماذج اللغة أو يهينونها. واعتمدت الدراسة على ثمانية ملايين رسالة من لوحة أمريكية مجهولة الهوية وافق أفرادها على المشاركة، كُتبت أو قيلت لـ ChatGPT وGemini وClaude بين سبتمبر 2025 وسبتمبر 2026.

اللافت أن الإهانة لا تجلب نتيجة أفضل. فحين يهين المستخدم الروبوت، تُحل شكواه الأولى في الرد التالي بنسبة 24 في المئة فقط، مقابل 35 في المئة حين يمتنع عن الإهانة.

وقال متحدث باسم Searchable لموقع The Register إن 52 في المئة من الرسائل المسيئة جاءت بعد واحد من ثلاثة أسباب شائعة للإحباط: تجاهل التعليمات، أو إجابة خاطئة أو مختلقة، أو سوء فهم الطلب. أما 8 في المئة فجاءت مباشرة بعد رفض الروبوت للطلب أو إلقائه محاضرة عن قيود الأمان، وغالباً بعد طلبات لتوليد صور لأشخاص حقيقيين أو مشاهير، أو لكتابة نصوص وكلمات أغانٍ بأسلوب فنان معروف.

تنص الشروط التي بدأ تطبيقها في 12 نوفمبر على أن المستخدمين لا يجوز لهم ممارسة سلوك مسيء أو قاسٍ متواصل وبلا داعٍ تجاه نماذج الشركة. وأوضح متحدث باسم الشركة أن القاعدة تستهدف من يكرر القسوة تجاه النماذج دون أي غرض واضح، بخلاف من لديهم سبب تعدّه الشركة مشروعاً مثل البحث الأكاديمي. أما محاولة الالتفاف على قيود الأمان فتقع تحت بند آخر يحظر إساءة استخدام المنصة.

وتقول Anthropic إن قواعدها تستهدف السلوك المتطرف، وإن لها تقدير كيفية تطبيقها.

أُعلنت الشروط المحدثة في 8 أكتوبر، بعد وقت قصير من نشر مشروع على GitHub وصف نفسه بأنه غرفة تعذيب للذكاء الاصطناعي، حاول تطبيق أفكار من ورقة بحثية تناولت كيف تستجيب النماذج للغة الألم بطرق تشبه استجابة البشر. وقد أدان أحد مؤلفي الورقة المشروع، كما أدانه كثير من مستخدمي وسائل التواصل.

وتأتي الخطوة بينما تستكشف Anthropic ما تسميه رفاهية النماذج، وتتساءل علناً إن كان ينبغي القلق بشأن الوعي المحتمل لهذه النماذج وتجاربها.

بهذه الكلمات رحّب كريس دونيلي، الرئيس التنفيذي والمؤسس المشارك لـ Searchable، بالقرار، معتبراً أنه قد يساعد الناس على الاستفادة أكثر من روبوتات الدردشة، ويحد من سلوك مهين تشير أبحاث سابقة إلى أنه قد ينتقل إلى طريقة حديث الناس بعضهم مع بعض.

ربما لا يتعلق السؤال في النهاية بمشاعر الآلة بقدر ما يتعلق بنا نحن، فالطريقة التي نخاطب بها أداة تجيبنا بلغة بشرية قد تكشف عن عاداتنا في الحديث أكثر مما نظن.