أداة جديدة من شركة Open AI لاكتشاف الصور المزيفة المُنتجة بواسطة الذكاء الاصطناعي بدقة 99%
2 د
شركة OpenAI تقدم أداة جديدة بزعم نسبة دقة تصل إلى 99% في اكتشاف الصور التي أُنتجت باستخدام الذكاء الاصطناعي، معالجةً لارتفاع المحتوى المضلل على الإنترنت.
بينما يطور العمالقة التكنولوجيون مثل Microsoft و Adobe أنظمة وضع العلامات المائية للإشارة إلى المحتوى الذي أُنتج باستخدام الذكاء الاصطناعي، فإن هذه الأساليب لها نقاط ضعف كثيرة.
الكفاح ضد الصور المزيفة يتطلب جهدًا جماعيًا، إذ يظل التمييز البشري حاليًا خط الدفاع الأول ضد سوء استخدام الذكاء الاصطناعي.
طبقًا لموقع decrypt، أعلنت شركة Open AI عن أداة جديدة مصممة لاكتشاف الصور المزيفة، وتعالج القلق المتزايد حول المحتوى المضلل على وسائل التواصل الاجتماعي، وأدعى الرئيس التنفيذي للتكنولوجيا في الشركة ميرا موراتي أن الأداة تصل دقتها إلى 99%.
زيادة عدد الصور المنتجة بواسطة الذكاء الاصطناعي يزيد من انتشار المحتوى المضلل الذي قد يؤدي إلى الفوضى، ومع تطور الذكاء الاصطناعي يصبح التفرقة بين الحقيقي والمزيف صعبًا للغاية، وعلى الرغم من أن تاريخ إصدار الأداة الجديدة ما زال مجهولًا، إلا أن الإعلان عنها أثار الاهتمام، خاصةً بالنظر إلى مشاريع الشركة السابقة، إذ أصدرت مصنف نصي للتمييز بين الكتابة البشرية والذكاء الاصطناعي، وتوقفت الاداة لسبب نسبة الخطأ العالية، إذ صنفت الكتابة البشرية على أنها بواسطة الذكاء الاصطناعي في 9% من الأحيان.
وإذا نجحت الشركة هذه المرة فإن هذا سوف يمثل لحظة حاسمة، لأن اكتشاف صور الذكاء الاصطناعي حاليًا يحدث بواسطة البشر الذين يعتمدون على الحدس، ومع التركيز على التحديات فإن الفرق بين صور الذكاء الاصطناعي والبشر لا يزال غامضًا خاصةً عند استخدام ذكاء اصطناعي لاكتشاف ذكاء اصطناعي آخر.
لا يقتصر التزام الشركة على الصور فحسب، بل يعملون على تنفيذ تدابير لتنظيم نماذجهم الخاصة، فعلى سبيل المثال يبدو أن أداة Dall-E بُرمجت على تعديل الأوامر دون إشعار وتقديم الأخطاء بصمت عند طلب مخرجات معينة حتى إذا كانت تتوافق مع الإرشادات المنشورة، وليس فقط شركة Open AI التي تعمل على اكتشاف الصور المزيفة، فتوجد شركات مثل شركة Deep Media التي تعمل على تطوير قدرات لشركات عملاقة مثل مايكروسوفت وأدوبي لوضع العلامات المائية باستخدام الذكاء الاصطناعي ليدل على أن هذه الصور أنتجت بواسطة الذكاء الاصطناعي، ولكن لا يزال يوجد عدة عيوب مثل أن إزالة البيانات الوصفية التي تحمل الرمز يمكن تنفيذه، ولحل هذه المشكلة قدمت أدوبي خدمة سحابية قادرة على استعادة البيانات الوصفية المفقودة، لكن يمكن تجاوز ذلك أيضًا.
هذه الأدوات أصبحت ضرورية مع الانتقال إلى تجريم الصور المزيفة، وتسلط هذه المبادرات على الجهد لضمان الأصالة الرقمية، ومع تطور الأدوات لتقديم على درجة من الأصالة فإن نجاحها يعتمد على القبول الواسع، والذي يشمل عمالقة التكنولوجيا ومنتجي المحتوى ومنصات التواصل الاجتماعي والمستهلكين.
تطور الذكاء الاصطناعي بسرعة يقدم تحديات في التمييز بين الأصالة في المحتوى حاليًا، ويظل التمييز البشري هو الدفاع الرئيسي ضد سوء استخدام الذكاء الاصطناعي، ولكن البشر ليسوا خاليين من الأخطاء، لذلك لا بد من البحث عن حلول أكثر استدامة.
أحلى ماعندنا ، واصل لعندك! سجل بنشرة أراجيك البريدية
بالنقر على زر “التسجيل”، فإنك توافق شروط الخدمة وسياسية الخصوصية وتلقي رسائل بريدية من أراجيك
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.