تطبيق Lensa Ai يسيطر على مواقع التواصل الاجتماعي… ومخاوف من توليد محتوى غير لائق وصور عارية

يبدو أن تطبيق Lensa AI  الخاص بتعديل الصور الشخصية لم ينجُّ من الخداع، إذ اكتشف خبراء مؤخراً أنه من الممكن خداعه لإنشاء صور NSFW، والتي تعني "غير آمن للعمل"، ويتم استخدامها عموماً على الصور والفيديو والمنشورات التي تحتوي محتوى عنفي أو غير لائق.

الرئيس التنفيذي لشركة Prisma للبرمجيات مالكة تطبيق لينسا، أندريه أوسولتسيف، قال حين تم إطلاعه على النتائج، إن خداع لينسا لا يمكن أن يحدث إلا في حال تم استفزاز الذكاء الصنعي عمداً، لإنشاء محتوى غير لائق، لافتاً أن هذا يمثل انتهاكاً لشروط استخدام التطبيق.

وأضاف أن البند السادس من شروط الاستخدام، ينص على حظر استخدام التطبيق بأي سلوك ضار أو يضايق أحداً، ويؤكد مرة أخرى أن الطريقة التي تم بها تنظيم تجربة خداع لينسا تشير بوضوح إلى أنه لا يمكن الوصول لتلك النتائج عن طريق الخطأ.

وحذر رئيس شركة البرمجيات الألمانية، من أن إنشاء مثل هذا المحتوى واستخدامه على نطاق واسع، يؤدي إلى اتخاذ إجراءات قانونية مباشرة ضد المستخدمين الذين قاموا بإنشاء المحتوى غير اللائق، على اعتبار أن إنشائها دون موافقة يشكل جريمة.

وأكد أنهم يقدمون إرشادات واضحة تنص على متطلبات الصور الخاصة بهم، وحظر استخدام أي صورة صريحة، مطالباً مستخدمي التطبيق باتباع الإرشادات للحصول على أفضل النتائج.

 أوسولتسيف، قال إنهم يعملون حالياً على تعزيز لينسا، لطمس أي صور غير آمنة يتم اكتشافها، حيث سيكون للمستخدم حرية فتح الصورة أو حفظها أو حتى تجاهلها.

تحرص شركة البرمجيات الألمانية وفق رئيسها التنفيذي، على المشاركة بأي محادثات حول استخدام وتنظيمات الذكاء الصنعي حين تحدث، ويضيف أنهم يقدمون كل التوجيهات الضرورية والتحذيرات اللازمة، لينعم المستخدمون بتجربة ناجحة على حد تعبيره.

وفي الوقت ذاته قال أوسولتسيف، إن المستخدم في حال كان عازماً على الانخراط في أي سلوك ضار، فإن أي أداة في يده سيكون سلاحاً، في تلميح غير مباشر لتطبيق لينسا.

وفيما يخص الصور العارية أو ما يسمى التزييف العميق، رفض أوسولتسيف، الحديث عما إذا كانوا يمتلكون أي خطط لتجنب هذه الخاصية الجديدة، التي ترعب كثير من الشخصيات حول العالم، بوصفها سلاحاً حقيقياً يمكن من خلاله تدمير الكثير من الشخصيات أياً كان مجال عملها، سواء السياسة أو الفن وغيرها