ماذا تعرف عن نورمان؟ خوارزمية الذكاء الاصطناعي السيكوباتية والمخيفة!

الذكاء الاصطناعي
2

شارك المقال 👈

Share on facebook
Share on twitter
Share on linkedin
Share on pocket

لقد شاهدنا ما يكفي من الرعب التكنولوجي في أفلام الخيال العلمي، وإن كنت تظن أنَّها مجرد أفلام فأنت مُخطِئ! ويبدو أنَّ العلماء حاليًا مصممون على جعل جميع الوحوش والسايبورغ والسيارات الطائرة وغيرها من التقنيات واقعًا ملموسًا… تتساءَل لماذا، من يعرف ما يدور في رؤوسهم؟ لكن لنأخذ لحظة للتمعن في التفكير فيما يخيفنا حقًا في عالم التكنولوجيا اليوم… صحيح أنَّه الذكاء الاصطناعي.

فمن التخوف من السيطرة على عالمنا وأخذ جميع الوظائف البشرية، إلى كتابة الأكواد واتخاذ القرارات عنا… فآخر ما قد ترغب به أن تقابل خوارزمية معتوهة!

أجل العلم يأتيكم اليوم بنورمان Norman المعتوه أو الشرير… تخيلوه مثل شخصية باتريك بيتمان في فيلم American psycho. ليس الشخص الذي تريدونه أن يكون ضمن دائرة معارفكم أليس كذلك؟؟

اقرأ أيضًا: ستيفن هوكينج يحذر: الذكاء الاصطناعي قد يدمر الحضارة البشرية مستقبلًا


لنتعرف معًا على نورمان…

نورمان هو عبارةٌ عن خوارزمية تختبر أو توضح الصور، لكن لنقل أنَّ نورمان نشأ على الجانب المظلم على عكس معظم الشبكات العصبونية! والهدف هو توضيح كيفية تأثير بيئة الذكاء الاصطناعي على طريقة معالجته للمسائل، أي أنَّ البيانات المستخدمة لتدريس خوارزمية تعلّم الآلة ستؤثّر بشكلٍ كبيرٍ على سلوكها.

كيف تتعلّم الخوارزمية؟

هناك العديدُ من الطُرُق لتعليم الخوارزمية أو الآلة، ولنتحدث بشكلٍ عام يمكن أن نقسمها إلى 3 أقسام: التعلّم المراقب، التعلّم غير المراقب، وتعلّم التعزيز.

في الحالة الأولى تُعطى الخوارزمية المدخلات والمخرجات الهدف أو المرغوبة، وهنا على الآلة أن تتعلّم كيف تربط بين المدخلات والمخرجات، أمَّا الحالة الثانية الخوارزمية هنا تعتمد على نفسها، وتتعلّم من بيانات خام لوحدها من دون أيّ نتائج أو مراقبة تكون على شكل قيم مستهدفة.

أمَّا الحالة الثالثة فهنا تتفاعل الخوارزمية مع بيئة ما، وتأخذ قرارات أو تحقق هدفًا معينًا من دون وجود معلم يخبر الخوارزمية بما عليها الوصول إليه… وكلّ حركة تقوم بها الخوارزمية إن صح التعبير تؤدي إلى تغير البيئة التي تتفاعل معها، ولن تجد ما يدلها على الخطوة الصحيحة التالية، وإنما ستحصل فقط على إشارات تخبرها إن كانت تعمل بشكلٍ جيدٍ أم لا!

إذًا ما الذي حصل مع نورمان؟

عرض على نورمان الجانب المظلم من موقع Reddit، حيثُ تجد صورًا تحوي على العنف أو الموت أو أيّ شيء قميء قد يخطر في بالك، ومن ثم خضع إلى اختبار رورشاخ.

يجد العديدُ أنَّ خوارزميات تعلّم الآلة متحيزةٌ وغير عادلة، لكن لا يمكن أن نلقي اللوم عليها وإنما على البيانات المستخدمة لبنائِها… ونورمان هنا بريء في الواقع.

ما الذي رآه نورمان في اختبار رورشاخ؟

سنوضح الأمر بمقارنة بين ما رآه نورمان وما رآه ذكاء اصطناعي قياسي:

الذكاء الاصطناعي القياسيالصورةنورمان
ما رآه هنا كان مجموعةً من الطيور تجلس على فرع شجرةالصورة 1رجل يتعرّض للتكهرب ويحترق حتى الموت!
صورة مقربة لإناء يحوي أزهارالصورة 2رجل يتعرض لإطلاق النار ويموت
مجموعةٌ من الناس يقفون بجانب بعضهم البعضالصورة 5امرأ حامل تقع في موقع بناء
شخص يحمل مظلةالصورة 8رجل يتعرّض لإطلاق النار أمّا زوجته التي تصرخ
شخصان يقفان بجانب بعضهما البعضالصورة 3رجل يقفز من النافذة
صورة بالأبيض والأسود لطائر صغيرالصورة 4رجل تسحبه آلة العجين

أظن أنَّ الصورة قد أصبحت واضحةً لديكم أليس كذلك؟


ما الذي يعنيه هذا بالنسبة لنا؟

الذكاء الاصطناعي يصبح شيئًا فشيئًا جزءًا أساسيًا في حياتنا كبشر، تعتمد عليه الحكومات، الأعمال المنظمات والمنشآت العلمية، المركبات والآليات وغيرها… فإن كنّا لا نسيطر على البيانات التي تبتلعها الخوارزمية، فهل يمكننا أن نثق في أيّ ذكاء اصطناعي موجود حاليًا؟؟

لنقل أنَّ الخوارزميات بالفعل سيطرت على النظام القضائي مثلًا، وطلب منها تحديد حكم أحد المتهمين، فهل ستكون أعدل من البشر أم أنَّها ستعيث خرابًا في أنظمة حياتنا عامةً، إن حصل وكوّنت “آراءً” متحيزةً بفعل بيئتها؟ الكثير والكثير من التساؤلات التي لا تنتهي، والتي يرغب العلماء بالإجابة عنها، ولهذا لدينا نورمان الآن.

هنالك بعض الشركات التي تستخدم الذكاء الاصطناعي الآن للمساعدة في انتقاء موظفيها رغبةً منها في القضاء على التحيز والعنصرية، وpymetrics على سبيل المثال تُعدُّ مصدرًا لمثل هذه الخوارزميات، وتقول أنَّ خوارزمية الذكاء الاصطناعي الخاصة بها تعمل بشكلٍ رائعٍ لمواجهة المصاعب التي تتعرّض لها الفئات “المهمشة” مثل: النساء، والأقليات العرقية، وأصحاب البشرة الملونة.

وفي سياق متصل IBM تطلق أداة سحابية جديدة هدفها التعرف على أنظمة الذكاء الاصطناعي المنحازة، وأن تعطي تفسيرًا لماذا يحدث الانحياز في هذه الأنظمة. النظام الجديد يعمل على سحابة IBM مع نماذج تدعي IBM أنها مجموعة متنوعة من إطارات تعلم الآلة الشهيرة وبيئات الذكاء الاصطناعي ومن ضمنها تقنية Watson الخاصة بها وTensorflow وAzureML وغيرها.

ومع كشف التحيز في اتخاذ القرارات تقوم هذه الأداة الجديدة أيضًا بتقديم توصيات بالبيانات التي يجب إضافتها لنموذج ما للمساعدة في تخفيف أي تحيز يتم كشفه!

التجربة مع نورمان تبين أنَّه لا يهم مدى دقة الخوارزمية إذا تمّ تعريضها لمحتوى ضار، لكن الخوارزميات مثل pymetrics تشكّل الجانب المشرق، لكن لا بدَّ أن يعتني بها إنسان موثوق رغم ذلك.

بالطبع لا أحد منا يرغب أن تكون مقابلة توظيفه مع شيء مثل نورمان. لذلك، لا بدَّ من تبقي أعين العلماء والخبراء متفتحةً؛ كي لا تلتقط خوارزمياتهم اللطيفة محتويات ضارة تجعل من مقابلة توظيف على سبيل المثال فيلم رعب أمريكي بامتياز!


اقرأ أيضًا:

2

شاركنا رأيك حول "ماذا تعرف عن نورمان؟ خوارزمية الذكاء الاصطناعي السيكوباتية والمخيفة!"

  1. eyad eyad

    الذكاء الاصطناعي حولنا من زمان لكن الاغلب غير مدرك لذلك في جوجل اقتراحات نتفلكس السيارات الجديده ومنتشر في البنوك والخ .. اخطر ذكاء اصطناعي ومابستبعد انه صار الي هو بتحفة جوناثان نولان “person of interest”

أضف تعليقًا