OpenAI تشكل فريقًا جديدًا لدراسة معايير حازمة تضمن سلامة المستخدمين الأطفال!

تحت مجهر النشطاء وأولياء الأمور، قامت OpenAI بتشكيل فريق جديد مختص بدراسة سُبل منع إساءة استخدام أدوات الذكاء الاصطناعي التي توفرها، خاصة من قِبل الأطفال.

أعلنت الشركة، عبر قائمة الوظائف المتاحة على موقعها الإلكتروني، عن تأسيس فريق لسلامة الطفل. يتعاون هذا الفريق مع أقسام السياسات والقانون والتحقيقات داخل OpenAI، بالإضافة إلى الشركاء الخارجيين، لإدارة العمليات والحوادث والمراجعات المتعلقة بالمستخدمين القُصّر.

حاليًا، يسعى الفريق لتوظيف متخصص في إنفاذ سلامة الأطفال، سيكون مسؤولًا عن تطبيق سياسات OpenAI فيما يخص المحتوى الذي يُنتجه الذكاء الاصطناعي ويتعلق بالمحتوى "الحساس"، الذي يُفترض أن يهم الأطفال.

تُخصص الشركات التقنية الكبرى جزءًا كبيرًا من مواردها للتوافق مع القوانين مثل قانون حماية خصوصية الأطفال على الإنترنت في الولايات المتحدة، الذي يضع ضوابط على ما يمكن وما لا يمكن للأطفال الوصول إليه على الإنترنت والبيانات التي يمكن للشركات جمعها. لذا، فإن توجه OpenAI نحو تعيين خبراء في سلامة الأطفال ليس بالأمر المفاجئ، خصوصًا مع توقعات الشركة بامتلاكها قاعدة كبيرة من المستخدمين القُصّر مستقبلًا. (تتطلب الشروط الحالية لاستخدام OpenAI موافقة الوالدين للأطفال بين سن 13 و18 عامًا، وتحظر استخدامها من قبل من هم دون سن 13 عامًا).

إلا أن تشكيل الفريق الجديد، والذي جاء بعد إعلان الشركة عن شراكتها مع Common Sense Media للعمل على إرشادات الذكاء الاصطناعي المناسبة للأطفال وتعاقدها مع أول عميل تعليمي لها، يُظهر أيضًا حرص OpenAI على تجنب مخالفة القوانين المتعلقة باستخدام الأطفال للذكاء الاصطناعي، وتفادي الضغوط الإعلامية السلبية.

مع زيادة اعتماد الأطفال والمراهقين على أدوات الذكاء الاصطناعي في الواجبات المدرسية وفي التعامل مع المشكلات الشخصية، يُثار القلق. وفقًا لاستطلاع أجراه مركز الديمقراطية والتكنولوجيا، ذكر 29% من الأطفال أنهم استعانوا بـ ChatGPT لمواجهة مشكلات القلق أو الصحة العقلية، و22% للمشاكل مع الأصدقاء، و16% للنزاعات الأسرية، مما يُنذر بمخاطر متزايدة.

خلال الصيف المنصرم، اتخذت المدارس والجامعات قرارات سريعة بحظر استخدام ChatGPT نظرًا للقلق من تفشي الانتحال وانتشار المعلومات المغلوطة. على الرغم من أن بعضها قد تراجع عن هذا القرار مؤخرًا، إلا أن الشكوك لا تزال تحوم حول قدرة الذكاء الاصطناعي التوليدي على إحداث فائدة حقيقية، مستشهدين بنتائج استطلاعات مثل تلك التي أجراها مركز الإنترنت الآمن في المملكة المتحدة، والذي كشف عن أن أكثر من نصف الأطفال (53٪) لاحظوا استخدام أقرانهم للذكاء الاصطناعي التوليدي بطرق سلبية، مثل إنتاج معلومات مزيفة مقنعة أو صور مستخدمة في التنمر.

في شهر سبتمبر، أصدرت OpenAI مجموعة من المستندات التوجيهية لاستخدام ChatGPT داخل الفصول الدراسية، تضمنت مطالبات وأسئلة شائعة لتوجيه المعلمين حول كيفية الاستفادة من الذكاء الاصطناعي التوليدي كأداة تعليمية. في إحدى مقالات الدعم، اعترفت OpenAI بأن أدواتها، وخاصة ChatGPT، "قد تولد مخرجات قد لا تكون مناسبة لجميع الجماهير أو الفئات العمرية"، موصية بـ"الحذر" عند استخدامها مع الأطفال، حتى أولئك الذين يلبون متطلبات السن.

تتزايد المطالبات بضرورة وضع إرشادات لتنظيم استخدام الأطفال للذكاء الاصطناعي التوليدي.

وفي نهاية العام الماضي، دعت منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) الحكومات إلى وضع تنظيمات لاستخدام الذكاء الاصطناعي التوليدي في مجال التعليم، تشمل تحديد حدود عمرية للمستخدمين وإجراءات حماية لبياناتهم وخصوصيتهم. وأكدت أودري أزولاي، المديرة العامة لليونسكو، في بيان صحفي قائلة: "يمكن أن يمثل الذكاء الاصطناعي التوليدي فرصة عظيمة للنمو البشري، لكنه قد ينطوي أيضًا على أضرار وتحيزات. لا يجوز دمجه في التعليم دون إشراك المجتمع وتوفير الضمانات والتنظيمات الضرورية من قبل الحكومات."