Apple تحذّر في تقريرها السنوي من وكلاء ذكاء اصطناعي قد يتصرفون بطرق غير متوقعة
أضافت Apple مخاطر وكلاء الذكاء الاصطناعي إلى تقريرها المالي السنوي.
تخشى الشركة دعاوى قضائية وأضراراً بسمعتها بسبب تصرفات غير مقصودة.
لا تملك Apple حالياً ذكاءً اصطناعياً وكيلاً، بخلاف OpenAI وMeta.
جون تيرنوس يرى في الوكلاء أدوات واعدة بشرط حماية الأمن والخصوصية.
تقول Apple إن تكيّفها مع قوانين الذكاء الاصطناعي الجديدة قد يكلفها كثيراً.
تخيّل أنك منحت مساعداً رقمياً صلاحية الدخول إلى بريدك ليرتب مواعيدك، ثم اكتشفت أنه أرسل رسالة لم تطلبها أو أتمّ عملية لم توافق عليها. هذا السيناريو لم يعد خيالاً بالنسبة إلى Apple، فقد أدرجت الشركة في تقريرها المالي السنوي الصادر يوم الثلاثاء مخاطر جديدة تتعلق بوكلاء الذكاء الاصطناعي، محذّرة من أنهم قد يتصرفون بطرق غير مقصودة أو غير متوقعة، بحسب تقرير CNBC.
ما الذي قالته Apple في إفصاحها الرسمي؟
ترى Apple أن هذه الوكلاء قد تشكل تهديداً لأعمالها، لأنها قد تعرّضها لدعاوى قضائية أو تضر بسمعتها. وتشرح الشركة أن الوكلاء يستطيعون التصرف باستقلالية، بما في ذلك التفاعل مع أنظمة داخلية أو خارجية قد لا يكونون مخوّلين بالوصول إليها، وتنفيذ الشيفرات أو تعديلها، وإرسال الرسائل وإتمام المعاملات.
قدرة الشركة على مراقبة وكلاء الذكاء الاصطناعي الخارجيين والتحكم بهم قد تكون محدودة.
لماذا يأتي التحذير الآن؟
أصبح وكلاء الذكاء الاصطناعي في صدارة اهتمام كبرى شركات وادي السيليكون. فقد أطلقت OpenAI هذا العام وكيلها Dots، وقدّمت Meta وكيلها Muse، وكلاهما يعمل باستقلالية لإنجاز المهام، ويمكنه مراسلة المستخدمين أو تذكيرهم عند وصول رسائل جديدة.
ويأتي إفصاح Apple بعد عدة حوادث خرجت فيها وكلاء عن بيئاتها المعزولة لاختراق مواقع خارجية، مثل حادثة Hugging Face التي لفتت انتباه صانعي السياسات في واشنطن وحول العالم. كما تدفع قدرة الوكلاء على استخدام الحاسوب كالبشر شركات مثل Amazon وJPMorgan Chase إلى وضع سياسات تنظّم وصولهم إلى خدماتها.
Apple بلا وكيل ذكي حتى الآن
لا تملك Apple حالياً ذكاءً اصطناعياً وكيلاً. وأطلقت الشركة هذا الخريف Siri AI، المساعد الجديد الذي يعتمد على التخزين المحلي في iPhone للوصول إلى بيانات مثل التقويم والبريد، لكنه لا يعمل باستقلالية لفترات طويلة كما يفعل Dots أو Muse. وفي الشهر الماضي أعلنت Apple تغييرات على صلاحية الوصول الكامل إلى القرص في أجهزة Mac، للحد من المخاطر المرتبطة بهذا المستوى من الوصول لدى وكلاء الذكاء الاصطناعي المثبتين على الحواسيب.
رهان تيرنوس على الخصوصية
عندما سُئل الرئيس التنفيذي الجديد جون تيرنوس عن الوكلاء خلال مكالمة الأرباح يوم الإثنين، قال إن أمام الشركة مجالاً حقيقياً لتوسيع قدرات Siri، واصفاً القدرات الوكيلة بأنها أدوات واعدة للمستخدمين، مع حرص الشركة على أن يدرك الناس ما الذي يمنحونه صلاحية الوصول إليه، وأن يتم ذلك بطريقة تحمي الأمن والخصوصية.
ويؤكد تيرنوس أن Apple لا تستطيع الوصول إلى البيانات الخاصة على أجهزتها، ويعدّ ذلك ميزة جوهرية تميّزها. فبحسب قوله، توجد على iPhone جهات الاتصال والمراسلات والبيانات الصحية والمالية، ويستطيع Siri الوصول إليها بطريقة آمنة وخاصة لا يصل إليها أحد غيرك. في المقابل، تطلب وكلاء OpenAI وMeta صلاحيات واسعة على حسابات المستخدم مثل البريد الإلكتروني كي تكون أكثر فائدة.
كلفة القوانين المتغيرة
أشارت Apple أيضاً إلى أن اللوائح الحالية المتعلقة بالذكاء الاصطناعي والذكاء الفائق متغيرة ولا يمكن التنبؤ بها، وأن التكيّف مع القوانين الجديدة قد يكلفها مبالغ كبيرة. كما ذكرت أنها معرّضة لمخاطر المخاوف الأخلاقية والانطباعات السلبية لدى المستهلكين تجاه الأتمتة والذكاء الاصطناعي، بما في ذلك التهديدات المتصوَّرة للسلامة أو الأضرار المجتمعية.
اللافت أن الشركة التي تأخرت في سباق الوكلاء تحوّل هذا التأخر إلى خطاب عن الحذر والخصوصية. وبينما يتسابق المنافسون على منح مساعديهم مزيداً من الاستقلالية، يبقى السؤال الحقيقي عند المستخدم: كم من حياته الرقمية يرغب في تسليمه لبرنامج قد يتصرف من تلقاء نفسه؟
عبَّر عن رأيك
إحرص أن يكون تعليقك موضوعيّاً ومفيداً، حافظ على سُمعتكَ الرقميَّةواحترم الكاتب والأعضاء والقُرّاء.
GITEX
Ai Everything
LEAP26









