سلامة وموثوقية الذكاء الاصطناعي .. استطاعت شركة أنثروبيك اكتشاف وفهم سلوكيات الشبكات العصبية الاصطناعية

طبقًا لموقع siliconangle، فإنه في خطوة مهمة نحو فهم سلوكيات الشبكات العصبية الاصطناعية (ANNs) المعقدة، كشفت شركة أنثروبيك الناشئة في مجال الذكاء الاصطناعي عن طريقة تعد بتعزيز فهمنا وتحكمنا في هذه الأنظمة، وهذا قد يكون مهمًا لسلامة وموثوقية الذكاء الاصطناعي في المستقبل، والبحث الجديد يغوص في عدم قدرة الشبكات على التنبؤ، ويقدم رؤى قد تُعطي للباحثين تحكم أكبر في أفعال الذكاء الاصطناعي.

أبحاث أنثروبيك الجديدة تستكشف طبيعة الشبكات العصبية التي وعلى الرغم من أنه مستوحاة من الدماغ البشري إلا أنها لا تزال تُحير العلماء بسبب سلوكياتها التي لا يمكن التنبؤ بها، تدربت الشبكات العصبية على البيانات بدلًا من اتباع الأوامر المحددة، وهذا يؤدي إلى أن نماذج الذكاء الاصطناعي تُظهر مجموعة واسعة من السلوكيات، بينما يفهم العلماء أساس هذه الشبكات إلا أن أسباب ظهور سلوكيات معينة لا تزال غير معروفة، وهذا النقص في الفهم يُصعب من عملية التحكم في الذكاء الاصطناعي ومنع بعض الظواهر مثل الهلوسة التي من خلالها يُنتج الذكاء الاصطناعي إجابات غير دقيقة وخاطئة.

يوجد شبه بين التحديات التي يواجهها علماء الأعصاب وباحثو الذكاء الاصطناعي، على الرغم من أنه معروف أن الخلايا العصبية التي تتفاعل في دماغ الإنسان يجب أن تنفذ بطريقة ما أفكارهم ومشاعرهم، ولكن لا يمكن للعلماء تحديد كيفية عمل كل شيء، وبالمثل فإن الخلايا العصبية في الشبكات العصبية لا تحتفظ بعلاقات ثابتة مع سلوك الشبكة، إذ تكون نشطة في سياقات غير متصلة وتعني أشياء مختلفة في سياقات مختلفة.

لفك هذا اللغز نظر باحثو شركة أنثروبيك بعمق في الخلايا العصبية الفردية، وحددوا وحدات أصغر يُطلق عليها اسم ميزات features، وهذه الميزات داخل كل خلية عصبية تتوافق أفضل مع أنماط تنشيط الخلايا العصبية، ومن خلال دراسة هذه الميزات الفردية، يعتقد الباحثون أنهم يمكنهم الحصول أخيرًا على فكرة عن كيفية تصرف الشبكات العصبية.

قدمت هذه الأبحاث دليلًا قويًا أن هذه الميزات يمكن استخدامها لدراسة الشبكات العصبية، من خلال النظر في مجموعة كاملة تزيد عن 4000 ميزة، اكتشف الباحثون أن الدروس التي تعلمها من خلال دراسة الميزات يمكن تطبيقها على الآخرين، ومع مزيد من البحث تعتقد أنثروبيك أنها قد تكون قادرة على التلاعب بهذه الميزات للتحكم في سلوك الشبكات العصبية.

وفي نهاية المطاف قد يكون ذلك حاسمًا في التغلب على تحدي فهم سبب تصرف نماذج اللغة بطريقة مختلفة، ويعبر الباحثون عن الأمل في أن يمهد هذا الاكتشاف الطريق لتحسين سلامة وموثوقية الذكاء الاصطناعي، ويُزز تبنيه في مختلف القطاعات.