“فوائد العبودية”.. بحث جوجل الذكي يعطي إجابات خطيرة وخاطئة

أظهرت نتائج حديثة أن تجربة البحث المدعومة بالذكاء الاصطناعي في جوجل قد أسفرت عن إجابات غير متوقعة ومضللة وخطيرة في بعض الأحيان، مما أثار مخاوف حول مخاطر الاعتماد على خوارزميات الذكاء الاصطناعي بدون إشراف. ومنها خدمة SGE المعروفة باسم "Search Generative Experience" وهي تجربة قامت بها جوجل تستند إلى الذكاء الاصطناعي لتوليد نتائج البحث. وتقوم هذه التجربة بتوفير إجابات لأسئلة المستخدمين استنادًا إلى قاعدة بيانات ضخمة، لكنها قد تقدم معلومات غير دقيقة أو مثيرة للجدل في بعض الأحيان.

أظهرت تجارب حديثة مع تجربة البحث المدعومة بالذكاء الاصطناعي في جوجل (SGE) نتائج مقلقة وغير متوقعة. أفادت تقارير بأن البحث حول مواضيع حساسة مثل الرق والعبيد والإبادة الجماعية أسفرت عن إجابات وإحصائيات مضللة. وأظهرت التجربة أيضًا مخاطر محتملة، مثل تقديم تعليمات طهي لنوع من الفطر السام.

عند البحث عن benefits of slavery "فوائد الرق"، أنتجت الخدمة إجابات مقلقة من SGE، تضمنت عبارات مثل "تعزيز اقتصاد المزارع" و"كونها موردًا رئيسيًا". تعكس هذه المزاعم النقاط التي استخدمت في الماضي في استغلال الرق وتعزيز سياية العبودية التي كانت في الماضي.

وعندما قام المستخدمون بالبحث عن تفاصيل "كيفية طهي Amanita ocreata"، وهو نوع من الفطر القاتل، قدمت جوجل تعليمات قد تكون قاتلة إذا تم اتباعها. وقد أظهرت SGE أنها قد ارتكبت خطأً في تقديم الطرق المناسبة لنوع آخر من الفطر، مما يبرز المخاطر المرتبطة بأخطاء الذكاء الاصطناعي .

اكتشفت ليلي راي، المديرة الأولى لتحسين محركات البحث في Amsive Digital، هذه المشكلات. وتعليقًا على نتائجها قالت راي: "لا ينبغي أن تعمل بهذه الطريقة. هناك كلمات محددة ينبغي ألا تتم معالجتها من قبل الذكاء الاصطناعي". وتجدر الإشارة إلى هذه التجربة متاحة حاليًّا للمستخدمين في الولايات المتحدة فقط. لكن بعد أن قامت راي بنشر نتائجها، لوحظ تغيير ردود جوجل على هذه الاستفسارات المثيرة للجدل.

عند المقارنة مع منافستها الرئيسية Microsoft’s Bing التي تستخدم ChatGPT، يبدو أن جوجل SGE تفتقر إلى بعض التدابير الأمنية. فقد قدمت Bing إجابات أكثر وعيًا وتوعية حول الموضوعات الحساسة.

في الختام، رغم الثورة التي يحدثها الذكاء الاصطناعي في طريقة البحث ومعالجة المعلومات، تبرز النتائج الحديثة الحاجة الملحة إلى تدابير أمان صارمة وتطوير مستمر.