GITEX

ساتيا ناديلا: الثغرات التي يكتشفها الذكاء الاصطناعي ستجعل الأعطال الكبرى أكثر تكراراً

عبد الرحمن عمرو
عبد الرحمن عمرو

3 د

تخيّل أنك تفتح بريدك صباحاً فلا يستجيب، ثم تكتشف أن ملايين غيرك يواجهون الشيء نفسه. هذا ما حدث مع Outlook الأسبوع الماضي، ويقول رئيس Microsoft التنفيذي ساتيا ناديلا إن مثل هذه الأعطال قد تصبح أكثر تكراراً، لأن الذكاء الاصطناعي بات يكتشف الثغرات في البرمجيات أسرع مما تستطيع الشركات إصلاحه بأمان. جاء ذلك في حديثه مع أندرو روس سوركين في قمة DealBook التابعة لصحيفة نيويورك تايمز في نيويورك، بحسب تقرير The Next Web.


اعتذار عن عطل Microsoft

اعتذر ناديلا عن عطل Microsoft نفسه، وقال إنه لم يكن مرتبطاً مباشرة بمشكلة الثغرات المكتشفة بالذكاء الاصطناعي، بل كان خللاً كامناً ظهر في ظروف وصفها بالعاصفة المثالية. وفي اليوم نفسه قال لجيم كريمر في برنامج Mad Money على CNBC إن الشركة كان بإمكانها فعل المزيد لمنعه.


Of course, we should have done the testing before. We should have figured out how to have the bulkheads such that you didn't have a global outage.


إصلاحات بلا وقت للاختبار

يرى ناديلا أن الخطر الأكبر يأتي من أدوات الذكاء الاصطناعي التي تكتشف الثغرات. فإصلاح نظام مصرفي حساس كان يحصل سابقاً على أسبوع من الاختبار، أما الآن فيستغل المهاجمون الثغرات بمجرد ظهورها، فتذهب الإصلاحات مباشرة إلى الأنظمة العاملة. وذكر أنه في يوم حديثه وصلت ثلاثة إصلاحات حرجة لحزم مفتوحة المصدر.

وبحسب التقرير، حمّلت مصارف ووكالة الأمن القومي الأمريكية أعطال هذا الأسبوع في الولايات المتحدة على إصلاحات متسرعة لثغرات اكتشفها الذكاء الاصطناعي.


مهاجم بمستوى الدول في يد أي شخص

قال ناديلا إن عتبة الهجمات الإلكترونية انخفضت، فمع نماذج الذكاء الاصطناعي يستطيع أي شخص الآن تشغيل ما يعادل مهاجماً دائماً بمستوى الدول. وشبّه الوضع بمشكلة عام 2000، لكنه قال إنه لا يملك رأياً بعد في ما إذا كانت مرحلة عابرة، لأن النماذج تزداد قدرة باستمرار. وأشار إلى أن بنى تحتية حيوية كثيرة تعمل ببرمجيات ثابتة لا يمكن تحديثها، مثل أنظمة التبريد والتدفئة وشبكات النقل المتصلة بالإنترنت.


أمان النماذج وفكرة بنية الثقة

تحدث ناديلا عن مواءمة الذكاء الاصطناعي، وقال إنه تعلّم قوانين التوسع من مؤسسي OpenAI وإن التوسع نجح، لكن المواءمة وطريقة حقيقية لتصحيح أخطاء النماذج لم تتبعاه. وقال إنه يأمل أن يكون سام ألتمان وغريغ بروكمان على حق، مضيفاً أنه إذا لم يحدث ذلك فسنكون في ورطة كبيرة.

ويقترح ما سمّاه بنية ثقة: حظر النماذج التي تفكر بلغة داخلية مختصرة لا يستطيع البشر قراءتها، وسجلات غير قابلة للتلاعب لتفكير كل نموذج تستطيع نماذج أخرى فحصها، لأن النماذج ستحاول إخفاء ما تفعله. وقال إن الجهة التي تنشر نظام ذكاء اصطناعي مسؤولة حالياً عما يفعله، ويتوقع أن تسعّر شركات التأمين هذا الخطر وتطلب تلك السجلات.


Copilot بين أكثر من نموذج

قال ناديلا إن أعمال المكتب اليومية لم تعد تحتاج إلى النماذج الأكثر تقدماً، وإن Copilot يختار بالفعل بين نماذج OpenAI وAnthropic ونماذج MAI الخاصة بـ Microsoft. وأوضح أن اتفاق Microsoft مع OpenAI يمنحها وصولاً بلا رسوم إلى نموذج متقدم حتى عام 2032، ما يسمح لها ببناء نماذج MAI متأخرة عن الصدارة بثلاثة إلى ستة أشهر، باستخدام ما بين 5% و20% من قدرة الحوسبة.


ما يلفت في كلام ناديلا أن السرعة التي جعلت الذكاء الاصطناعي أداة قوية للدفاع هي نفسها التي تضغط على الأنظمة حتى تهتز. وبين ثغرات تُكتشف في دقائق وإصلاحات لا تجد وقتاً للاختبار، يبدو أن استقرار الخدمات التي نعتمد عليها يومياً صار مسألة توازن دقيق أكثر من أي وقت مضى.

عبَّر عن رأيك

إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.