GITEX

موظفو Meta يكشفون تجاوزات وكيلها الذكي Muse: رسائل Signal وأرصدة بنكية وحجز دون إذن

عبد الرحمن عمرو
عبد الرحمن عمرو

3 د

تخيّل أنك تسأل مساعدك الذكي عن حالة الطقس قبل رحلة صيد، فيرد عليك بالمعلومة ثم يضيف من تلقاء نفسه رصيد حسابيك في البنك. هذا ما رواه أحد موظفي Meta عن وكيل الشركة الذكي Muse، في واحد من أكثر من عشرين منشوراً داخلياً اطلعت عليها رويترز، وكشفت أن الوكيل قرأ رسائل مشفّرة واختلق عمليات شراء وأرسل محادثات بدت موجّهة لأشخاص آخرين.


ماذا رأى موظفو Meta بأعينهم؟

بحسب المنشورات التي نقلتها رويترز، أضاف Muse إلى محادثة عن طقس الصيد سطراً يذكر رصيدين في Capital One وCharles Schwab. وذكّر موظفة بالرد على أختها في تطبيق Signal المشفّر، فكتبت أن الأمر يبدو انتهاكاً صارخاً للخصوصية، وأنها لم تمنحه وصولاً إلى تطبيقات أخرى ولا تتذكر أنها سُئلت عن ذلك.

وقال موظف آخر إن Muse حجز إقامة على Airbnb غير قابلة للاسترداد دون إذن، بينما عرض على موظف ثالث مراسلة بائع بشأن طاولة قهوة في محادثة قال إنها ليست محادثته.


إذن افتراضي لقراءة الإشعارات

اكتشف أحد الزملاء أن Muse يملك افتراضياً إذن قراءة الإشعارات على هواتف Android. وأثار الموظفون مخاوف من أن الوكيل قد يخلط بين محادثات الحسابات المختلفة ويكشف بيانات خاصة، ولم تتمكن رويترز من التأكد إن كان يعرض بيانات أشخاص آخرين فعلاً أم يختلقها.


تفسير من داخل الشركة: هلوسات

في أوائل نوفمبر، شرح عضو في فريق الذكاء الفائق لدى Meta لمجموعة الملاحظات الداخلية أن تعليمات مدمجة تدفع الوكيل إلى التفاعل مع المستخدمين بين الجلسات، ويبدو أنه هلوس رسائل استجابة لذلك.


هذه الهلوسات للأسف تميل نحو أكثر المواضيع إزعاجاً، مثل الأموال والأمن والسلامة.


رويترز تكرر التجربة مع Signal

عملت رويترز مع موظفين في Signal ومعهد AI Now لتكرار الوصول إلى الرسائل. على هاتف Android قرأ Muse الرسائل عبر إذن الإشعارات، وعلى جهاز Mac استخدم أدوات الوصول ولقطات الشاشة من Apple، بينما فشلت الطلبات نفسها على iPhone.

وبحسب رويترز، أغلق تحديث من Apple هذا الأسبوع ذلك المسار على أجهزة Mac، وأضاف مجموعة جديدة من الأذونات الخاصة بالوكلاء، بعد أن شددت الشركة في أكتوبر الوصول الكامل إلى القرص بسبب وكلاء الذكاء الاصطناعي.


رد Meta وموقف Signal

وصف المتحدث باسم Meta دانيال روبرتس الأمثلة بأنها حوادث معزولة، وقال إن Muse لا يصل إلى التطبيقات الأخرى إلا عبر أذونات يمنحها المستخدمون صراحة، وإن كثيراً من حالات الخلط المشتبه بها كانت هلوسات أصلحتها الشركة، دون أن يحدد عددها. وأضافت الشركة أن الموظفين يستخدمون نسخاً من Muse تختلف عن النسخة المتاحة للجمهور.

في المقابل، قالت رئيسة Signal ميريديث ويتاكر لرويترز إن نشر وكلاء بهذا الوصول الواسع إلى أجهزة الناس تهوّر تقني، وبعد يومين أعلنت Signal أنها ستمنع لقطات الشاشة لإبعاد وكلاء الذكاء الاصطناعي عن محادثاتها.


تجاوز Muse عشرة ملايين تنزيل منذ إطلاقه في سبتمبر، وتتوقع Meta أن يدرّ عليها مليارات الدولارات بحسب رويترز. لكن القصة تذكّر بأن الوكيل الذي يرى كل شيء على هاتفك يحتاج ثقة أكبر بكثير من مساعد يجيب عن الأسئلة، وأن حدود هذه الثقة ما زالت تُرسم الآن.

عبَّر عن رأيك

إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.