طبقًا لدراسة جديدة .. يستطيع الهاكرز استغلال ChatGPT لسرقة بياناتك الخاصة 

طبقًا لموقع metro، كشفت دراسة جديدة أن شات جي بي تي وغيره عرضة للهجمات الإلكترونية عند طرح أسئلة محددة، وأظهر الباحثون من جامعة شيفيلد هذا الضعف في 6 أدوات ذكاء اصطناعي تجارية.

اكتشف الفريق أنه من خلال طرح أسئلة معينة على هذه الأنظمة يمكنهم إنشاء كود خبيث، وبمجرد تنفيذه يكون لدى النظام القدرة على تسريب البيانات السرية وتعطيل أو إنهاء الخدمات، هذا الكشف خاص لنظم Text-to-SQL التي تسمح للمستخدمين بالاستعلام عن قواعد البيانات باستخدام اللغة العادية، وتُستخدم هذه النظم في صناعات مختلفة، وتشير الدراسة إلى إمكانية التلاعب بها لمهاجمة أنظمة الكمبيوتر في الواقع.

أظهرت الدراسة كيف يمكن استغلال الذكاء الاصطناعي لسرقة البيانات الحساسة أو التلاعب بها، إو إيقاف الخدمات باستخدام هجمات الحرمان، كما وجد الفريق ثغرات في 6 أنظمة تجارية هم شات جي بي تي و Text2SQL، و AIHELPERBOT، و AI2SQL، و BAIDU-UNIT، و ToolSKE وتمكن الباحثون من الوصول إلى تكوينات الخادم الخاص في أداة Baidu-UNIT مما تتسبب في تعطل واحد من عقد الخادم.

بينما شات جي بي تي لديه مخاطر ضئيلة إلا أنه يمكن خداعها لإنتاج كود ضار يمكن أن يعرض خدمات أخرى للخطر، وأبرزت الدراسة الأخطار المحتملة عندما يستخدم الأفراد الذكاء الاصطناعي لتعلم لغات البرمجة، خاصةً عند التفاعل مع قواعد البيانات، كما اكتشف الفريق إمكانية بدء هجمات خلفية عن طريق تلويث بيانات التدريب، ويمكن تنشيط هذه الهجمات في أي وقت مما يسبب ضررًا كبيرًا للمستخدمين.

يجب على مستخدمي أنظمة Text-to-SQL أن يكونوا على دراية بهذه المخاطر، وعلى الرغم من أن نماذج اللغة الكبيرة في هذه الأنظمة قوية إلا أن سلوكها معقد ويمكن أن يكون صعب التنبؤ به، ويعمل الباحثون في جامعة شيفيلد على فهم هذه النماذج والسماح باستخدام إمكانياتها بأمان، وتسلط الثغرات الضوء على الحاجة إلى الاعتراف ومعالجة مشكلات الأمان التي تجاهلناها، فأمان الذكاء الاصطناعي وحماية المستخدمين أصبحت أولوية قصوى الآن.