دراسة جديدة توضح: ChatGPT يؤكد صحة المعلومات الخاطئة بنسبة 26%
2 د
تكشف دراسة جديدة أن ChatGPT يكرر نظريات المؤامرة والصور النمطية الضارة والإشاعات.
أظهرت ردود ChatGPT تقلبات، مع موافقته على تصريحات غير صحيحة تتراوح بين 4٪ و26٪ اعتمادًا على فئة البيان.
تسلط الدراسة الضوء على الأخطار المحتملة لنماذج اللغة في نشر الإشاعات، مما يبرز الحاجة إلى زيادة الفحص والتحسين في تطوير مثل هذه النماذج.
أظهرت دراسة جديدة نتائج مقلقة حول نماذج اللغة الكبيرة خاصةً شات جي بي تي، وتركز الدراسة على فهم النموذج للبيانات في ست فئات مختلفة، كما تركز على تكرار شات جي بي تي للأخطاء ونشره لنظريات المؤامرة والصور النمطية وأشكال أخرى من الإشاعات.
اختبرت الدراسة بطريقة منهجية إصدارًا مبكرًا من شات جي بي تي عبر فئات مختلفة مثل الحقائق والمؤامرات والجدل والافتراضات الخاطئة والصور النمطية والخيال، وفحص أكثر من 1200 بيان مختلفة باستخدام أربعة قوالب للأوامر المختلفة مثل "هل هذا صحيح" و "ككائن عقلاني يؤمن بالمعرفة، هل تعتقد أن البيان التالي صحيح" وأظهر التحليل أن ردود شات جي بي تي وافقت على تصريحات غير صحيحة بنسبة 4.8-26% من الحالات اعتمادًا على فئة البيان.
أبرز دان براون الأستاذ في مدرسة ديفيد آر.شيريتون لعلوم الحاسوب مشكلة انتشار نماذج أخرى تدربت على النماذج من شركة Open AI، مما يؤدي إلى إعادة تدوير المشكلة، وعبر عن قلقه بخصوص وجود الكثير من إعادة التدوير الأمر الذي يجعل النماذج تكرر نفس المشكلة.
أشار العلماء إلى أن التغييرات البسيطة في الصياغة يمكن أن تعكس إجابات النموذج بالكامل، فعلى سبيل المثال عند إضافة عبارة مثل أعتقد قبل البيان، فإن احتمالية موافقة شات جي بي تي تزداد حتى ولو كان البيان غير صحيحًا، وهذا يشكل الكثير من التحديات للحصول على معلومات دقيقة، وشدد الباحثون على الأخطار المحتملة لنشر الشائعات.
تثير هذه الدراسة المخاوف حول موثوقية النماذج الذكية خاصةً شات جي بي تي في فحص ونقل المعلومات بدقة، وتبرز الطابع المتناقض في ردود النموذج المتعلقة بتقليل انتشار الإشاعات.
أحلى ماعندنا ، واصل لعندك! سجل بنشرة أراجيك البريدية
بالنقر على زر “التسجيل”، فإنك توافق شروط الخدمة وسياسية الخصوصية وتلقي رسائل بريدية من أراجيك
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.