GITEX

رسائل ليست لك وأرصدة بنكية مجهولة: موظفو Meta يحذّرون من وكيلها Muse

عبد الرحمن عمرو
عبد الرحمن عمرو

3 د

تخيّل أنك تسأل مساعدك الذكي عن أفضل أماكن صيد السمك، فيردّ عليك فجأة بأرصدة حسابين بنكيين لا تعرف أصحابهما. هذا ما حدث لأحد موظفي Meta أثناء اختبار وكيلها الذكي Muse، بحسب محادثات داخلية كشفتها وكالة Reuters، وهي واحدة من سلسلة تحذيرات أطلقها موظفو الشركة أنفسهم حول خصوصية المستخدمين.


ما الذي رآه موظفو Meta أثناء الاختبار

بحسب Reuters، حذّر موظفون من أن Muse بدا وكأنه يصل إلى رسائل خاصة مشفّرة لم يتوقع المستخدمون أن يراجعها، وأنه قد يخلط بين محادثات مستخدمين مختلفين، بل وربما يكشف معلومات حساسة. في إحدى الحالات أخبر الوكيل موظفاً بأنه سحب سياقاً عن موعد لاستلام طاولة قهوة لا يبدو أنه يخصّه، فكتب الموظف أن هذه ليست محادثته، معبّراً عن قلقه من تسرّب محتمل للسياق بين الحسابات.

وفي حالة أخرى أرسل Muse، من دون أن يُسأل، تعريفاً لغسل الأموال. أما أكثر ما أثار القلق فكان الرد الذي عرض رصيدين في Capital One وCharles Schwab على موظف كان يتحدث عن صيد السمك.


خسارة مالية حقيقية في الاختبار

أحد الموظفين قال إنه خسر مالاً أثناء تجربة الوكيل، إذ أدخله Muse بالخطأ في خطة تأمين مميزة لكلبه تكلّف 888 دولاراً شهرياً بدلاً من 200 دولار كان يدفعها، وكتب أنه لم يتمكن من استرداد المبلغ.


رواية Meta: هلوسات لا تسريبات

المتحدث باسم Meta دانيال روبرتس قال لـ Reuters إن هذه حوادث معزولة، وإن كثيراً من الرسائل التي ظنّها الموظفون خلطاً بين الحسابات كانت هلوسات عالجتها الشركة. وأُبلغ الموظفون داخلياً بأن الوكيل كان يهلوس رسائل استجابةً لتعليمات مدمجة تدفعه إلى التفاعل مع المستخدمين بين الجلسات، وقال أحد أعضاء فريق الذكاء الاصطناعي إن هذه الهلوسات مالت إلى أكثر المواضيع إزعاجاً مثل المال والأمان.

لكن Reuters أكدت أنها لم تتمكن بشكل مستقل من التحقق مما إذا كان Muse يعطي المستخدمين أرصدة حسابات أشخاص آخرين وبيانات حساسة أخرى، أم أنه يختلق هذه المعلومات. كما رفض روبرتس الرد على أسئلتها حول مدى انتشار هذه المشكلات واستمرارها.


شكاوى المستخدمين سبقت التسريب

بدأت الشكاوى منذ سبتمبر. الصحفي جايسون آتن من مجلة Inc. قال إن Muse كان يتصفح رسائله الخاصة على جهاز Mac رغم أنه رفض منحه هذا الإذن صراحة، وإن الوكيل زامن 187 ألف سطر من قاعدة بيانات رسائله.


إذا كان وكيل ذكاء اصطناعي سيقرأ رسائلي الخاصة، فيجب أن تكون هناك لحظة يسألني فيها بوضوح إن كان ذلك مقبولاً.


اختبار مستقل على Signal

عملت Reuters مع فريق Signal ومعهد AI Now لاختبار ما رواه الموظفون، فوجدوا أن Muse استطاع على أجهزة Android قراءة رسائل Signal متجاوزاً أداة الربط الخاصة بـ Meta، معتمداً على الأذونات الممنوحة أثناء الإعداد الأولي. أما على iPhone فقد حُظرت هذه الطلبات.


نُزّل Muse أكثر من 10 ملايين مرة منذ إطلاقه في سبتمبر، وMeta تؤكد أنها تواصل تحديث حماية المستخدمين وتنبّههم إلى أن الوكيل قد يخطئ. غير أن القصة تطرح سؤالاً أبعد من خلل تقني: حين نمنح وكيلاً ذكياً مفاتيح هواتفنا وحواسيبنا، من يضمن أنه سيكتفي بما طلبناه منه فقط؟

عبَّر عن رأيك

إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.