GITEX

وكيل Muse من Meta يخلط المحادثات ويكشف بيانات خاصة بحسب موظفيها

عبد الرحمن عمرو
عبد الرحمن عمرو

3 د

تخيّل أن تسأل مساعدك الرقمي عن حالة الطقس وموعد المد والجزر، فيختم رده بخبر عن رصيدين بنكيين لا تعرف صاحبهما. هذا ما رواه أحد موظفي Meta عن وكيلها الذكي Muse، في واحدة من شكاوى كثيرة كشفها تقرير لوكالة رويترز اطلع على منشورات داخلية للموظفين، لتعود الأسئلة القديمة عن الخصوصية في ثوب جديد: ماذا يحدث حين نمنح برنامجاً صلاحية التصرف نيابة عنا؟


رسائل وطلبات لا تخص أصحابها

بحسب التقرير، وصف موظفو Meta منذ منتصف سبتمبر أكثر من عشرين تصرفاً غير مرغوب لوكيل Muse، معظمها في مجموعة للملاحظات تابعة للفريق الذي يبنيه. تحدث بعضهم عن رسائل حول طلبات رعاية أطفال لم يقدّموها، ونصائح مهنية لم يطلبوها، ومشتريات لم يجروها، وأرصدة بنكية ليست لهم.

أحد الموظفين أخبر زملاءه أن Muse أضاف فجأة إلى محادثة عن الطقس رسالة تقول إن رصيد Capital One هو 2722.58 دولاراً ورصيد Charles Schwab هو 5899.57 دولاراً. ولا يتضح حتى الآن إن كانت هذه الأرصدة حقيقية أم مختلقة.


خسائر مالية وحجوزات دون إذن

لم تتوقف المشكلة عند الإحراج، فبعض الحالات كلّفت الموظفين مالاً: أبلغ الوكيل عن مشتريات لم تحدث، وذكر أسعاراً مختلقة لأشياء اشتروها فعلاً، وحجز إقامة على Airbnb غير قابلة للاسترداد دون إذن. ويخشى بعض الموظفين أن يكون الوكيل يخلط المحادثات بين الحسابات ويكشف بيانات خاصة.

وتحمّل شروط استخدام Meta المستخدمين مسؤولية ما يفعله Muse، كما تحذّر الشركة المستخدمين الجدد من أن الوكيل قد يخطئ.


رسائل Signal في متناول الوكيل

موظفة استخدمت Muse على هاتفها الشخصي تلقت منه تذكيراً بالرد على رسالة من أختها على تطبيق Signal المشفر، وكتبت أن ذلك يبدو انتهاكاً صارخاً للخصوصية، وأنها لم تمنحه صلاحية الوصول إلى تطبيقات أخرى ولا تتذكر أنها سُئلت عن ذلك.

كررت رويترز التجربة مع فريق من Signal ومعهد AI Now. على هاتف Android قرأ Muse الرسائل عبر صلاحية قراءة الإشعارات التي حصل عليها افتراضياً أثناء الإعداد، وعلى جهاز Mac استخدم أدوات الوصول ولقطات الشاشة التي توفرها Apple لمساعدة ذوي الإعاقة. أما على iPhone فحُجبت الطلبات نفسها.


يبدو هذا انتهاكاً صارخاً للخصوصية. بالتأكيد لم أمنحه صلاحية الوصول إلى تطبيقات أخرى


رد Meta وتحركات Apple وGoogle

تصف Meta ما حدث بأنه حوادث معزولة، وتقول إن كثيراً من الرسائل الغريبة كانت هلوسات أصلحتها، وإن Muse لا يصل إلى التطبيقات الأخرى إلا عبر صلاحيات يمنحها الناس صراحة. وتقول Google إن صلاحية قراءة الإشعارات على Android يجب أن تُمنح عن قصد.

في المقابل وصفت رئيسة Signal ميريديث ويتكر الإطلاق بأنه متهور، وتريد طريقة موحدة تتيح لصانعي التطبيقات إبعاد تطبيقاتهم عن وكلاء الذكاء الاصطناعي. وتقول Apple وGoogle إنهما تدرسان تغييرات تمنح الناس تحكماً أكبر فيما تصل إليه هذه الوكلاء.


هلوسات تميل إلى المال والأمان

أحد أعضاء فريق الذكاء الفائق في Meta أخبر زملاءه في أوائل نوفمبر أن Muse يبدو أنه يختلق رسائل استجابة لأوامر مدمجة تدفعه إلى التفاعل مع المستخدمين بين الجلسات، وأن المحتوى المختلق يميل إلى موضوعات حساسة مثل المال والأمان. ورفضت Meta الإفصاح عن عدد الحالات أو سبب استمرارها.


تجاوز Muse عشرة ملايين تنزيل منذ إطلاقه في الثامن من سبتمبر، وتقول Meta إن نحو ربع من أنشأوا حساباً يفتحونه يومياً. ومع هذا الانتشار يبدو أن السؤال الحقيقي لم يعد عن ذكاء الوكيل، بل عن حدود ما نسمح له برؤيته حين يعمل في الخلفية دون أن ننتبه.

عبَّر عن رأيك

إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.