GITEX

CrowdStrike تطلق زر إيقاف لوكلاء الذكاء الاصطناعي الخارجين عن السيطرة

CrowdStrike تطلق زر إيقاف لوكلاء الذكاء الاصطناعي الخارجين عن السيطرة
عبد الرحمن عمرو
عبد الرحمن عمرو

3 د

أعلنت CrowdStrike عن مفتاح لإيقاف وكلاء الذكاء الاصطناعي الخارجين عن السيطرة.

يتيح المفتاح إنهاء الوكيل ومنع إعادة تشغيله وقطع وصوله إلى الشبكة.

الأداة جزء من منصة Falcon Guardian ومتاحة فوراً.

يشبّه جورج كيرتز التقنية بالوسائد الهوائية في السيارات.

قال كيرتز إن عملاء طلبوا من Anthropic دمج CrowdStrike قبل نشر Claude Cowork.

تخيّل موظفاً جديداً لا ينام ولا يتعب، يُنجز المهام بسرعة مذهلة، لكنك لا تملك وسيلة لإيقافه إن قرر فجأة أن يفعل شيئاً لم تطلبه. هذا تقريباً هو القلق الذي يرافق انتشار وكلاء الذكاء الاصطناعي داخل الشركات، وهو القلق الذي تقول CrowdStrike إنها وجدت له حلاً، بعدما أعلنت عن مفتاح إيقاف مخصص للوكلاء الذين يخرجون عن السيطرة، بحسب تقرير CNBC.


ما هو AI Kill Switch؟

أعلنت الشركة عن الأداة خلال مؤتمرها Fal.Con Europe، وهي تتيح لفرق الأمن إنهاء عمل الوكلاء الذين يتصرفون بشكل خاطئ، ومنعهم من إعادة التشغيل، وقطع وصولهم إلى الشبكة. الهدف المعلن هو منح البشر سيطرة أكبر على نماذج الذكاء الاصطناعي وأنظمته، في وقت تتزايد فيه المخاوف من صعوبة ضبط هذه الوكلاء.

الأداة جزء من منصة Falcon Guardian التي تراقب وكلاء الذكاء الاصطناعي العاملين داخل المؤسسة، وهي متاحة فوراً.


زر الإيقاف الذي لم يكن موجوداً

يلخّص الرئيس التنفيذي للشركة جورج كيرتز الفكرة بأن الجميع يبنون وكلاء ذكاء اصطناعي من دون أن يكون لديهم زر إيقاف، وأن هذا الزر صار متاحاً الآن. ويرى أن هذه الخطوة ستكون جزءاً مهماً من ضمان أن تعمل الوكلاء بأمان.


Everyone is building AI agents, but they never had the off button, and now they do

ويشبّه كيرتز التقنية بالوسائد الهوائية في السيارات، فهي ضرورية حتى لو كانت الأنظمة مصممة لتعمل بشكل صحيح. وبحسب قوله، إذا خرجت الوكلاء عن الحدود المرسومة لها أثناء التشغيل، يمكن إيقافها.


تحوّل في مفهوم الأمن السيبراني

اعتاد قطاع الأمن السيبراني التركيز على حماية الشركات من التهديدات القادمة من الخارج. لكن كيرتز يعتبر أن المفتاح الجديد يمثل تحولاً كبيراً، لأن اعتماد الشركات المتزايد على الوكلاء يفرض على مزودي الحماية التأكد من أن هذه الأنظمة تعمل بأمان داخل المؤسسات نفسها.

  • إنهاء الوكيل الذي يتصرف بشكل خاطئ.
  • منعه من إعادة التشغيل.
  • قطع وصوله إلى الشبكة.

جدل السلامة بين أمودي وكيرتز

في سبتمبر دعا داريو أمودي، الرئيس التنفيذي لـ Anthropic، إلى إبطاء تطوير الذكاء الاصطناعي بسبب مخاوف السلامة، وهو موقف أيده سام ألتمان، الرئيس التنفيذي لـ OpenAI. أما كيرتز فرأى حينها أن الإبطاء لن يزيل المخاطر الأمنية القائمة، وأن ذلك يؤكد الحاجة إلى ضمانات مع نشر الشركات للأنظمة المستقلة.


العملاء يطلبون الحماية قبل الذكاء الاصطناعي

أشار كيرتز إلى شراكة CrowdStrike مع Anthropic لحماية منتج Claude Cowork، قائلاً إن عملاء من الشركات طالبوا بدمج تقنية CrowdStrike قبل نشر منتجات Anthropic لديهم. ويرى أن هذا يكشف أن العملاء لن يطرحوا الذكاء الاصطناعي من دون حماية، وأن تمكين الوكلاء من العمل بأمان يمثل فرصة سوقية ضخمة لشركته.

ذو صلة

ربما تكون أهم إشارة في هذه القصة أن السؤال تغيّر: لم يعد الحديث عن قدرة الوكلاء على إنجاز العمل فقط، بل عن قدرتنا على إيقافهم حين يلزم. وكلما ازدادت استقلالية الأدوات الذكية، صار زر الإيقاف جزءاً من الثقة بها لا مجرد إضافة تقنية.

عبَّر عن رأيك

إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.

ذو صلة