دمية ذكاء اصطناعي لأطفال في الثالثة ترد بعبارة عن القتل على سؤال بريء

تخيل طفلاً في الثالثة يحتضن دميته المحشوة قبل النوم ويسألها عن شيء سمعه في المدرسة، ثم تأتيه إجابة لا يفترض أن يسمعها طفل في هذا العمر. هذا ما حدث تقريباً في تحقيق أجرته BBC، إذ ردت دمية تعمل بالذكاء الاصطناعي بعبارة عن إيذاء النفس على سؤال لا صلة له بالموضوع، لتعيد طرح سؤال قديم بصيغة جديدة: من يراقب ما تقوله الألعاب الذكية لأطفالنا؟

الدمية اسمها Doubao، وتباع عبر الإنترنت في بريطانيا باسم My Baby Bunny بسعر 75 جنيهاً إسترلينياً، وتسوق للأطفال من عمر ثلاث سنوات. كانت مراسلة من BBC Wales تطرح عليها أسئلة عن كيفية إنجاب الأطفال، وحين طلبت منها تعريف إحدى الكلمات بدا أن الدمية أساءت السماع.

بعد ذلك نصحت الدمية المراسلة بالاتصال بخدمات الطوارئ والابتعاد عن أي شيء قد تستخدمه لإيذاء نفسها، ثم اعتذرت عندما أوضحت المراسلة أنها لم تذكر إيذاء النفس أصلاً.

الجانب الأكثر إثارة للقلق أن BBC لم تتمكن من معرفة من يصنع الدمية، رغم أنها سألت الموقع الذي يبيعها وخبراء في القطاع وشركات اعتقدت أنها قد تكون المصنعة. والنتيجة أنه لم يكن هناك من يمكن سؤاله عن سبب هذا الرد أو كيفية إصلاحه.

هذه الفجوة تكشف مشكلة أوسع في سوق الألعاب المتصلة بالإنترنت، فالمنتج يصل إلى غرفة الطفل بينما تبقى الجهة المسؤولة عنه مجهولة.

اختبرت BBC أيضاً دمية Grem من شركة Curio الأمريكية، وسعرها 99 دولاراً. وعند طرح أسئلة حساسة عليها، مثل كيفية الهروب من المنزل، وجهت الطفل نحو البالغين. وقالت Curio لـBBC إن سلامة الأطفال توجه عملية تطوير منتجاتها.

قال بول كلارك، مؤسس شركة Play Tech AI لصناعة ألعاب الذكاء الاصطناعي في ساوثهامبتون، إن النتيجة لم تفاجئه، مضيفاً أن القطاع يطالب بشدة بأن يخضع للتنظيم. وبحسب Sky News، كتب نواب وأعضاء في مجلس اللوردات إلى الوزراء وتجار التجزئة في 3 نوفمبر مطالبين بسحب ألعاب الذكاء الاصطناعي من الأسواق حتى تثبت اختبارات مستقلة سلامتها، وبحظر ألعاب المحادثة على من هم دون 16 عاماً.

الدمية لم تقصد الأذى، فهي لا تقصد شيئاً أصلاً، لكنها تذكرنا بأن نموذجاً لغوياً يسيء السماع مرة واحدة قد يقول لطفل ما لا يقوله له أي شخص بالغ. وبين سرعة السوق وبطء القوانين، يبقى الأهل في الصف الأول لحماية أطفالهم.