Anthropic تعلن بلوغ عتبة التحسين الذاتي للذكاء الاصطناعي قبيل طرح أسهمها
قالت Anthropic في ملف طرحها العام إنها بلغت عتبة في سياسة التوسع المسؤول.
العتبة مرتبطة بالتحسين الذاتي المتكرر، أي مساهمة الذكاء الاصطناعي في تطوير نفسه.
القرار مبني على توقعات الشركة لنماذجها المقبلة، لا على اختراق تقني مفاجئ.
تجاوز العتبة يفرض مستويات أمان أعلى ومراقبة أشمل لسلوك النماذج.
تتوقع الشركة بدء تداول أسهمها يوم الخميس.
تخيّل أن تقرأ ملفاً مالياً جافاً مليئاً بالأرقام والبنود القانونية، ثم تصادف بين سطوره جملة تقول إن الشركة بلغت عتبة تخص ذكاءً اصطناعياً يساهم في تطوير نفسه. هذا ما حدث مع Anthropic، الشركة المطوّرة لـClaude، التي كشفت بهدوء الأسبوع الماضي أن تقنيتها تجاوزت عتبة تستدعي إجراءات أمان مرتبطة بما يسمى التحسين الذاتي المتكرر، بحسب تقرير Gizmodo.
ماذا قالت Anthropic في ملف الطرح العام؟
في نسخة ملف S-1 المقدمة إلى هيئة الأوراق المالية الأمريكية بتاريخ 2 نوفمبر، قالت الشركة إنها قد تبلغ قريباً جداً المعايير الواردة في سياسة التوسع المسؤول الخاصة بها، والمتعلقة بالتقدم المتسارع بشكل كبير بفعل الذكاء الاصطناعي. وأوضح الملف أن هذه السياسة تحدد خططاً لمراقبة المخاطر والحد منها كلما اقتربت الشركة من التحسين الذاتي المتكرر.
ما الذي تغيّر بين نسختين من الملف؟
في نسخة 10 نوفمبر حُذفت تلك الصياغة، وصار الملف يشير إلى أن البند المعني من السياسة أصبح سارياً. فالعتبة تنطبق حين ترصد الشركة أو تتوقع تقدماً متسارعاً، وقد قررت Anthropic أنها بلغتها بناءً على ما تتوقعه من نماذجها المقبلة ووتيرة تقدمها العامة.
ويشير التقرير إلى أن هذا البند يتحدث عن تضاعف معدل التحسن الأساسي، وأن ما جرى تقدير داخلي معدّل مبني على توقعات، وليس اختراقاً تقنياً مفاجئاً.
إجراءات تفرضها العتبة الجديدة
بحسب سياسة الشركة، يصبح اتخاذ تدابير إضافية ضرورياً بعد تجاوز العتبة، ومنها:
- البحث عن طرق للوصول إلى مستويات أمان غير مسبوقة.
- مراقبة شاملة لسلوك النماذج.
- اختبارات هجوم داخلية أكثر كثافة على أنظمتها.
رسالة المؤسسين ودعوة إلى الإبطاء
نشرت Anthropic وثائق طرحها العام على موقعها، ومعها رسالة من مؤسسيها تقول إن بناء الذكاء الاصطناعي بأمان قد يتطلب إبطاء الوتيرة السريعة التي تتراكم بها قدراته، خاصة حين تكون أنظمة الذكاء الاصطناعي نفسها هي من تبني نفسها.
توقيت لافت قبل التداول
يأتي هذا الإفصاح قبل أيام قليلة من بدء تداول أسهم الشركة، الذي تتوقع Anthropic أن يكون يوم الخميس، ما يجعل لغة الأمان جزءاً من الصورة التي تقدمها الشركة لمستثمريها.
قد لا تعني هذه العتبة أن آلة خرجت عن السيطرة، لكنها تكشف كيف باتت شركة كبرى تقيس تقدمها بمقياس جديد: ليس فقط ما تستطيع نماذجها فعله اليوم، بل ما قد تفعله بنفسها غداً.
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.
GITEX
Ai Everything
LEAP26









