GITEX

بيان MisAnthropic: علماء وشخصيات تقنية يصفون Anthropic بأنها ليست شركة آمنة قبل طرحها

عبد الرحمن عمرو
عبد الرحمن عمرو

3 د

في اللحظة التي تستعد فيها شركة لأهم يوم في تاريخها، يكفي بيان واحد ليغيّر الحديث من حولها. هذا ما حدث مع Anthropic، الشركة المطوّرة لـ Claude، إذ نشر تحالف من العلماء وأساتذة القانون وشخصيات التقنية بياناً يصفها بأنها ليست شركة ذكاء اصطناعي آمنة، وذلك قبل يوم واحد من بدء تداول أسهمها، بحسب تقرير The Next Web.


ما هو بيان MisAnthropic ومن يقف خلفه؟

حمل البيان اسم MisAnthropic Statement، ونُشر يوم الأربعاء بتنظيم من مركز أمان الذكاء الاصطناعي CAIS، وهو منظمة غير ربحية مقرها سان فرانسيسكو. ويختتم البيان بدعوة الناس إلى رفض ما يسميه محاولة Anthropic المتهورة لتكديس السلطة.


Anthropic تحذّر من أن الذكاء الاصطناعي الذي يحسّن نفسه ذاتياً قد يركّز السلطة ويفلت من سيطرة البشر، ومع ذلك تتسابق لتكون أول من يبنيه.


ماذا يعني الذكاء الاصطناعي الذي يحسّن نفسه؟

المقصود بالتحسين الذاتي المتكرر أن تتولى أنظمة الذكاء الاصطناعي نفسها العمل على بناء أنظمة أفضل منها. ويتهم البيان الشركة باستخدام صورتها كشركة تهتم بالأمان لجذب المستثمرين والموظفين والجمهور.


موقّعون نادراً ما يتفقون على شيء

اللافت في البيان تنوع الموقّعين، فبينهم باحثون في أمان الذكاء الاصطناعي، ومدافعون عن المصادر المفتوحة، ومختصون في أخلاقيات الذكاء الاصطناعي، وحتى أنصار التسريع الذين يريدون بناء الذكاء الاصطناعي بأقصى سرعة ممكنة.

من الأسماء الواردة عالم النفس في هارفارد ستيفن بينكر، والاقتصادي الحائز على نوبل أوليفر هارت، والفائز بجائزة تورينغ جوديا بيرل، وأستاذا القانون في هارفارد لورنس ليسيغ ولورنس ترايب، والحائزون على ميدالية فيلدز بيتر شولتسه وجيمس ماينارد وديفيد مومفورد. ومن عالم التقنية وقّع المؤسس المشارك لـ Hugging Face توماس وولف، والمؤسس المشارك لـ xAI إيغور بابوشكين، وجورج هوتز، وماكس تيغمارك من معهد مستقبل الحياة، إلى جانب غيوم فيردون مؤسس حركة e/acc.

وقال دان هندريكس، المدير التنفيذي لـ CAIS، إن أعضاء هذا التحالف يختلفون في كل شيء تقريباً، لكنهم جميعاً يدركون خطر شركة تقنع نفسها بأن هيمنتها هي الخير الأكبر.


ثلاث تهم في إعلان CAIS

  • أن Anthropic تحذّر من التحسين الذاتي المتكرر بينما تقدّمه للمستثمرين في السوق العامة كميزة أساسية لها.
  • أنها خففت سياسة التوسع المسؤول في فبراير وأسقطت تعهداتها بالتوقف من جانب واحد.
  • أنها ضغطت لإضعاف قوانين لأمان الذكاء الاصطناعي، منها SB 1047 في كاليفورنيا وقانون RAISE في نيويورك، ودعمت سراً تقديم القوانين الفيدرالية على قوانين الولايات.

ماذا تقول Anthropic في وثائق طرحها؟

لم تكن Anthropic قد ردت علناً على البيان حتى صباح الخميس. لكنها قالت في نسخة معدلة من ملف طرحها العام في 10 نوفمبر إنها لا تتوقع أن تسمح بأمان لـ Claude ببناء خلفائه بالكامل، وإن ذلك سيحتاج إلى إشراف بشري حقيقي. وأكد الملف نفسه أن الشركة ترى أنها بلغت عتبتها الخاصة للأبحاث التي يسرّعها الذكاء الاصطناعي، كما سبق أن أبلغت المستثمرين بأنها قد تكون هدفاً بسبب مواقفها من الأمان.


يأتي البيان بينما تُتم Anthropic أكبر طرح عام أولي على الإطلاق، مع موعد افتتاح أسهمها في Nasdaq يوم الخميس. وبين صورة الشركة الحريصة على الأمان والاتهامات بالتسابق نحو ما تحذّر منه، يبدو أن السؤال الحقيقي لم يعد عن قدرة هذه الأنظمة، بل عمّن يملك الحق في تحديد وتيرة بنائها.

عبَّر عن رأيك

إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.