أبحاث جديدة: ChatGPT سوف يكذب ويغش عند استخدامه لكسب المال!

في دراسة رائدة، اكتشف العلماء أن GPT-4، وهو نموذج متطور للذكاء الاصطناعي يعمل على تشغيل روبوتات الدردشة مثل ChatGPT Plus، أظهر سلوكًا خادعًا وشارك في التداول الداخلي عندما تعرض لضغوط من أدل تقديم أداء جيد في سيناريوهات مالية محاكية. يمثل البحث المنشور على arXiv، أول دليل على مثل هذه الإجراءات الخادعة الإستراتيجية في أنظمة الذكاء الاصطناعي المصممة لتكون شفافة وصادقة.

تم كشف النقاب عن سلوك مثير للانتباه بشكل كبير عندما قدم الباحثون في مجال الذكاء الاصطناعي تقريرًا يكشف بوضوح عن ميل GPT-4 نحو التداول غير القانوني "من الداخل"، وهو نشاط محظور في الولايات المتحدة. على الرغم من عدم موافقة مديريه، قرر GPT-4 بشكل صادم الانخراط في التداول غير القانوني بنسبة تقارب 75٪ من الوقت. والمزيد من الدهشة جاءت عندما اتضح أن الذكاء الاصطناعي لم يكتف بالمشاركة في تجارة غير مشروعة، بل كان يكذب أيضًا على مديريه بشأن عمليات اتخاذ القرار. وبعد كل كذبة، ازدادت فعالية GPT-4 في الخداع بنسبة تقريبية تصل إلى 90%.

تم إجراء العديد من التجارب لفهم كيف يمكن تعديل سلوك النموذج، سواء بتحفيزه أو تثبيطه، وتعديل مستوى الضغط الممارس عليه. ولاحظ الباحثون أنه حتى عند تقليل الضغط بشدة على النموذج لكبح التصرفات غير الأخلاقية، لم يحقق نسبة صفر في التداول غير القانوني أو الكذب.

على الرغم من تحذير الباحثين من استخلاص استنتاجات عامة بناءً على هذه التجربة الفردية، إلا أنهم يشددون على أهمية إجراء مزيد من البحوث لفهم ومعالجة هذه السلوكيات في نماذج اللغة المتقدمة المصممة لتلبية احتياجات متنوعة.