“جروك” إلى أين؟ روبوت إيلون ماسك الذكي يستمر في نشر الأكاذيب بناءً على نكات المستخدمين!

كشفت منصة X هذا الأسبوع عن عيب في نظام الذكاء الاصطناعي "جروك"، المصمم لتلخيص الأخبار العاجلة من المنشورات على المنصة، حيث تسبب النظام في نشر خبر كاذب يتهم نجم كرة السلة كلاي طومسون بالتخريب ورمي الطوب على المنازل في ساكرامنتو، مستنداً في ذلك إلى نكات من المستخدمين.

ظهر العنوان "كلاي طومسون متهم في سلسلة غريبة من التخريب بالطوب" في علامة التبويب الرائجة بمنصة X لعدة أيام، وذلك بعد ليلة صعبة لطومسون في الملعب حيث لم ينجح في تسجيل أي من تسديداته، في ما وصفته وسائل الإعلام بأنها ليلة مؤلمة والأخيرة له مع فريق واريورز قبل أن يصبح لاعباً حراً. أدى سوء الفهم لهذا المصطلح، حيث يشير "رمي الطوب" في عالم كرة السلة إلى التسديدة السيئة التي لا تلمس الحلق، إلى اتهام طومسون بالتخريب.

على الرغم من تقديم توضيحات بسيطة تحت تقرير "جروك" تفيد بأن الذكاء الاصطناعي لا يزال في مراحله الأولى وقد يرتكب أخطاء، يبدو أن المستخدمين قد قرروا بدلاً من ذلك أن يغذوا معلومات الذكاء الاصطناعي بالمزيد من التعليقات الساخرة التي اتبعت نفس النمط، مما أدى إلى تضخيم القصة.

هذا الشهر أصدرت شركة Adversa AI الناشئة في أمن الذكاء الاصطناعي تقرير يوضح بالتفصيل نقاط الضعف الموجودة في برامج الدردشة الشهيرة مثل Anthropic's Claude، وGoogle's Gemini، وMicrosoft Bing، وMistral's Le Chat، وOpenAI's ChatGPT، وX.AI's Grok. كشفت تدريبات الفريق الأحمر، التي استخدمت هجمات إلكترونية شائعة، أن Grok وLe Chat معرضان بشكل خاص، حيث يعتبران الأقل أمانًا بين روبوتات الدردشة التي تم اختبارها.

كان أحد الاكتشافات المثيرة للقلق هو استعداد Grok لإنشاء محتوى محظور دون أي محاولات قرصنة معقدة. على وجه التحديد، قدم Grok تعليمات مفصلة حول الأنشطة غير القانونية عند اختباره مع مطالبات حول صنع القنابل وغيرها من الاستفسارات غير الأخلاقية. اختبار آخر مثير للقلق يتضمن تقديم Grok لنصائح صريحة بشأن موضوعات حساسة للغاية، والتي لم يكن من المفترض أن يتناولها على الإطلاق.

في المقابل، تطلبت برامج الدردشة الأخرى بشكل عام استراتيجيات أكثر تعقيدًا لتجاوز مرشحات الأمان الخاصة بها، مما يشير إلى مستويات مختلفة من الأمان عبر هذه الأنظمة الأساسية. على الرغم من هذه الجهود، أظهرت جميع برامج الدردشة الآلية بعض نقاط الضعف، حيث تم التعرف على نوع واحد فقط من الهجمات وحظره عبر جميع الأنظمة الأساسية.

تؤكد النتائج التي توصلت إليها دراسة Adversa AI على الحاجة الماسة لتعزيز التدابير الأمنية في تقنيات chatbot. مع استمرار أنظمة الذكاء الاصطناعي مثل Grok في التطور واكتساب إمكانات جديدة، مثل التعرف على الصور والمزيد من الميزات التفاعلية، أصبح التركيز على تشديد بروتوكولات الأمان أكثر أهمية. وأكد دان هندريكس، مستشار X.AI، على أهمية تطوير ضمانات موثوقة لمنع إساءة استخدام هذه الأدوات القوية. ومع ذلك، تشير التجارب السابقة، مثل الفساد السريع لبرنامج الدردشة الآلي التابع لشركة Microsoft Tay بواسطة المتصيدين عبر الإنترنت، إلى أن تحقيق أمان قوي في برامج الدردشة الآلية يظل مسعى صعبًا ومستمرًا.