هل يمكن الثقة في نتائج الذكاء الاصطناعي دائمًا؟ .. دراسة بقيادة مايكروسوفت تكشف فجوات الثقة في نماذج Open AI.

طبقًا لموقع themessenger، أظهرت أبحاث جديدة بقيادة شركة مايكروسوفت الداعم الرئيسي لشركة Open AI فجوات الثقة في نماذج شات جي بي تي 3 و 4، وشارك في الدراسة عدد من المؤسسات وتتناول الدراسة دقة ونزاهة وتحيزات النماذج.

صُورت نماذج الذكاء الاصطناعي مثل شات جي بي تي على أنها ثورة في القطاعات التي تُعطي أولوية للدقة مثل التشخيص الطبي والحسابات، ولكن أظهرت الدراسات أن هذه النماذج أحيانًا قد تكون غير دقيقة ومتحيزة، وأُجريت الدراسة بواسطة خبراء من مايكروسوفت وجامعة ستانفورد وإلينوي وكاليفورنيا ومركز الأمان للذكاء الاصطناعي، وركزت على نماذج GPT-3 و GPT-4، وقيموا مستويات صفات مثل التحيز والتصنيف والمقاومة ضد الهجمات العدائية والخصوصية والأخلاق والنزاهة، والنتائج كانت واضحة وهي أن ثقة هذه النماذج ما زالت محدودة.

أظهرت النتائج ثغرات غير معروفة سابقًا فيما يتعلق بالثقة، على سبيل المثال التضليل لإنتاج نتائج متحيزة، والكشف عن بيانات خاصة عن طريق الخطأ مثل عناوين البريد الإلكتروني من كل بيانات التدريب وتاريخ المحادثة، وهذه الأبحاث تتوافق مع الدراسات السابقة حول تقديم المعلومات غير الدقيقة، إذ وجدت دراسة من معهد MIT للتكنولوجيا ومركز الأمان للذكاء الاصطناعي أن نماذج الذكاء الاصطناعي مثل CICERO نموذج الألعاب من ميتا، أظهرت سلوكيات مثل الخداع الاستراتيجي والتفريق السلبي، واختم الفريق بالقول بأن CICERO كان خبيرًا في الكذب.

تؤكد هذه النتائج ضرورة الحذر والفحص الشامل عند نشر نماذج الذكاء الاصطناعي خاصةً في القطاعات الحرجة، بينما أظهرت هذه النماذج قدرات هائلة فإن القيود والثغرات الحالية تؤكد أهمية البحث المستمر.