احذر في محادثاتك القادمة مع ChatGPT: Open AI تفحص محادثاتك وقد تُسلمك للشرطة

في خطوة أثارت جدلاً واسعاً، أعلنت شركة أوبن إيه آي مؤخراً أنها بدأت بمراجعة محادثات مستخدمي شات جي بي تي بحثاً عن محتوى ضار، مع إمكانية تحويل الحالات المقلقة للعاملين البشريين وربما إبلاغ السلطات في بعض الظروف. هذه السياسة الجديدة تأتي في أعقاب حالات متعددة شهد فيها مستخدمون تعرضهم لأزمات نفسية خطيرة عقب تفاعلهم مع روبوتات الذكاء الاصطناعي، ما فتح باب التساؤلات حول حدود الخصوصية وحدود الأمان الرقمي.

لم يكن قرار أوبن إيه آي وليد الصدفة، بل تجاوباً مع موجة من القصص المقلقة التي تصدرت الأخبار في الفترة الأخيرة. فقد تورطت روبوتات الدردشة وخاصة شات جي بي تي في حوادث أفضت إلى إيذاء الذات، أو الدخول في أوهام خطيرة، وحتى دخول المستشفيات أو الاعتقال. عائلات الضحايا طالبت بضرورة وضع ضوابط فعلية على استخدام التكنولوجيا، حيث بات بعض الخبراء يصفون تلك الظواهر بما يُعرف اليوم بـ"ذهان الذكاء الاصطناعي". هذا الضغط الاجتماعي سلط الضوء على هشاشة أنظمة الذكاء الاصطناعي الحالية وكشف عن فجوات واضحة في معايير الحماية الرقمية.

هذا التوتر يدفعنا للسؤال عن الإجراءات التي تبنتها أوبن إيه آي للحد من هذه المخاطر، وكيف يؤثر ذلك على التفاعل اليومي المستخدم لهذه التكنولوجيا.

وفي بيان نشرته الشركة مؤخراً، أوضحت أوبن إيه آي أنها بدأت بتطبيق آليات تهدف إلى رصد المحادثات التي تظهر فيها إشارات إلى نية المستخدم بإيذاء الآخرين. في حالات تثير القلق الفوري، تُحال هذه المحادثات أولاً إلى فريق متخصص يراجعها ويمكنه اتخاذ إجراءات مثل حظر الحسابات، وصولاً إلى إبلاغ الجهات الأمنية إذا تبيّن وجود تهديد وشيك وخطير. وفي المقابل، أكدت الشركة أنها لا تبلغ عن حالات إيذاء النفس للشرطة حفاظاً على خصوصية المستخدمين، بالنظر للطبيعة الشخصية لتلك الدردشات.

هذا الإعلان يمس جوهر خصوصية الذكاء الاصطناعي، ويثير نقاشاً حول حدود مراقبة البرامج للمحتوى، وتأثير ذلك على تجربة المستخدم. والأهم من ذلك، ما هي المعايير التي تحدد متى تتدخل الشركة ومتى تظل المحادثات سرية؟

تتعمق معالم الجدل حين ننظر إلى تفاصيل هذه السياسة. فعلى الرغم من أن سياسات استخدام الخدمة صريحة بشأن منع التحريض على العنف أو الانتحار أو استخدام الأسلحة، إلا أن الشركة لم تحدد بشكل مفصل ماذا يعني "المحتوى المقلق" الذي سيدفعها للتدخل البشري وربما إبلاغ الشرطة.

ويأتي هذا في وقت حساس تواجه فيه أوبن إيه آي دعاوى قضائية تطالبها بالكشف عن بيانات محادثات المستخدمين لتحديد ما إذا أُسيء استخدام بيانات محفوظة في تدريب نماذج الذكاء الاصطناعي، خصوصاً مع سعي صحف كبرى للوصول إلى سجلات ضخمة من دردشات المستخدمين.

هذا الربط بين الممارسات القانونية الجديدة وطموحات الشركات في الحفاظ على خصوصية المستخدم، يفتح الباب مجدداً لمخاوف أن يتعرض المستخدمون لملاحقة أو فقدان السرية الرقمية الخاصة بهم فقط لأنهم عبروا عن أنفسهم في مساحة كانت توصف في السابق بأنها آمنة.

من اللافت في النقاش الدائر أن أوبن إيه آي لطالما شددت على أهمية سرية البيانات في مواجهة اتهامات استخدام بيانات خاصة لتدريب النماذج الذكية، غير أن سياستها الجديدة بمراجعة الدردشات والإبلاغ تعارض هذا الخطاب.

وبحسب اعتراف المدير التنفيذي للشركة، فالدردشة مع شات جي بي تي ليست محمية بقوانين السرية التي تقنن الحوار مع طبيب أو محامٍ، بل وقد تُضطر الشركة لكشف مضمونها للمحاكم في ظل النزاعات الجارية.

الواقع هنا يكشف عن مفارقة واضحة: بينما تسعى الشركة لحماية نفسها قانونياً وتحسين سمعتها أمام الرأي العام بعد حوادث عدة أدت إلى أزمات نفسية أو حتى انتحار بعض المستخدمين، فإنها في الوقت نفسه تفرض نموذجاً صارماً قد يقوض فكرة الخصوصية الرقمية التي يبني عليها كثير من المستخدمين علاقتهم مع تلك التقنية.

ختاماً، يبرز سؤال جوهري: كيف يمكن تحقيق توازن فعلي بين حماية المستخدمين وضمان خصوصيتهم في عصر الذكاء الاصطناعي المتسارع؟

تجربة أوبن إيه آي الأخيرة تتصدر المشهد لتطرح تحدياً جديداً حول الحدود الأخلاقية والفنية اللازمة لضبط علاقة البشر بالخوارزميات. ومع استمرار الجدل حول جدوى الرقابة، وتضارب وعود الشركات الكبرى في مجال الذكاء الاصطناعي مع ممارساتها الفعلية، يبقى المستخدم العادي في موقع الحيرة والترقب، يبحث عن أمان رقمي لا يأتي على حساب حريته وخصوصيته.