خبراء اكتشفوا إمكانية التجسس على محادثتك مع ChatGPT وخدمات الذكاء الاصطناعي المماثلة!

اكتشف الخبراء أنه يمكن للمتسللين التجسس على المحادثات من خلال استخدام معظم أنظمة الذكاء الاصطناعي. إذ حذر يسرويل ميرسكي، رئيس مختبر أبحاث الذكاء الاصطناعي الهجومي بجامعة بن غوريون، من أن الدردشات الخاصة المرسلة عبر ChatGPT وغيرها من الخدمات قابلة للقراءة من قبل أي شخص. وتشمل الأطراف القادرة على هذا التجسس تلك الموجودة على نفس شبكة Wi-Fi أو الشبكة المحلية مثل المستخدم، أو حتى المتسللين عبر الإنترنت الذين يمكنهم مراقبة حركة المرور.

يشير التقرير إلى أن هذه الثغرات الأمنية تُعرف بـ "هجمات القناة الجانبية" التي تمكن المهاجمين من استنتاج المعلومات بطريقة غير مباشرة، دون الحاجة إلى اختراق الحماية الأمنية مباشرةً. والذكاء الاصطناعي يظهر ضعفاً خاصاً أمام هذه الهجمات نظرًا لأن التدابير التشفيرية المتخذة قد لا تكون كافية لحمايته بشكل تام.

يوضح الباحثون أن هذه الهجمات تتم بطريقة سلبية وقد تحدث دون علم OpenAI أو عملائها. فعلى الرغم من جهود OpenAI لتشفير البيانات وحمايتها من هجمات التجسس، يكشف البحث عن وجود نقاط ضعف في طريقة التشفير هذه يمكن أن تؤدي إلى الكشف عن المحتوى. 

يمكن أن تكشف هجمات القنوات الجانبية بدقة تصل إلى 55% من المعلومات المطلوبة من روبوتات الدردشة، كما تبين تقارير من Ars. هذا يعني أن الأسئلة الحساسة التي يطرحها المستخدمون على الذكاء الاصطناعي قد تصبح متاحة للأطراف ذات النوايا الخبيثة.

يركز باحثو جامعة بن غوريون بشكل أساسي على أخطاء التشفير في OpenAI، ولكن، كما يشير التقرير، فإن معظم روبوتات الدردشة المتوفرة في السوق حاليًا، باستثناء Gemini من Google، يمكن استغلالها بهذه الطريقة.

تحدث المشكلة نتيجة استخدام روبوتات الدردشة لوحدات بيانات مشفرة تُعرف بـ "الرموز المميزة"، التي تساعد النماذج اللغوية الكبيرة على فهم المدخلات وتقديم ردود سريعة ودقيقة. هذه الرموز تُرسل بسرعة فائقة لضمان سلاسة التواصل بين المستخدم والروبوت.

بينما تكون هذه العملية مشفرة في الغالب، فإن الرموز المميزة يمكن أن تخلق ما يُعرف بـ "القناة الجانبية" التي لم تكن معروفة من قبل. باحثون من جامعة بن غوريون كشفوا في دراسة حديثة أنه يمكن لأي شخص يملك القدرة على الوصول إلى هذه البيانات بشكل فوري أن يستنتج معلومات حساسة استنادًا إلى الرموز المميزة المُستخدمة.

في سياق توثيق هذا الضعف، قام الباحث ميرسكي وفريقه بتحليل البيانات المُجمعة عبر القناة الجانبية غير المقصودة باستخدام نموذج لغوي تم تدريبه خصيصًا لتحديد الكلمات الرئيسية. توصلوا إلى أن هناك فرصة تقارب 50% لاستنتاج المعلومات العامة بناءً على هذه الرموز، وكان بإمكانهم التنبؤ بالمعلومات بدقة تصل إلى حوالي 29% من الأحيان.

في تعليق صادر عن Microsoft، ذُكر أن هذا الضعف، الذي يؤثر على برنامجها Copilot AI أيضًا، لا يشكل خطرًا على البيانات الشخصية للمستخدمين. ممثل الشركة أكد على التزام Microsoft بحماية مستخدميها من هذا النوع من الهجمات وأشار إلى خطط الشركة لمعالجة المشكلة من خلال إصدار تحديث.

تزداد المخاوف خصوصية بالنسبة للموضوعات الحساسة مثل الإجهاض أو قضايا مجتمع LGBTQ، والتي في بعض الأماكن قد تكون موضوعًا للتجريم، مما يعني أن استغلال هذا الضعف قد يؤدي إلى إلحاق الضرر أو توجيه العقاب للأفراد الذين يبحثون فقط عن معلومات.