قال سام ألتمان المدير التنفيذي لشركة أوبن إيه آي OpenAI صاحبة روبوت الدردشة الشهير "شات جي بي تي" إن هناك عدداً متزايداً من الأشخاص الذين يستخدمون التطبيق للحصول على نصائح في أمور شخصية وكأداة للعلاج.
وأضاف ألتمان أنه إذا تحدث المستخدم مع "شات جي بي تي" عن أمور شخصية بالغة الحساسية، ثم كانت هناك دعوى قضائية ضده، فإن الشركة من الممكن أن تُلزَم بتقديم تلك المحادثات.
ذكرت " بى بى سى" أن تصريحات ألتمان تثير أسئلة مهمة تتعلق بخصوصية البيانات واحتمال تسربها أو إساءة استخدامها، والمخاطر السيبرانية التي تنتج عن تزويد روبوتات الدردشة بمعلومات حساسة.
وبحسب " بى بى سى" فإن روبوتات الدردشة الشهيرة مثل "شات جي بي تي" و"كوبايلوت" و"جيميناي" لا توفر خاصية التشفير من طرف إلى طرف، التي تضمن أن الرسائل أو البيانات يتم تشفيرها على جهاز المرسل ولا تُفَك شفرتها إلا على جهاز المستلم. وتُستخدم هذه الخاصية على نطاق واسع في تطبيقات مثل "واتساب" و"سيجنال" و"آي مسج" لحماية خصوصية المستخدمين ومنع اعتراض البيانات.
وعادة ما تقوم منصات الذكاء الاصطناعي بجمع البيانات وتخزينها لتدريب نماذجها بغرض تحسينها. هذه البيانات قد تستخدم لتحليل سلوك المستخدم وتحديد الاتجاهات الشائعة، أو "التريندات".
قالت إيفا جالبرين، مديرة الأمن السيبراني بمؤسسة إلكترونيك فرانتيير إنه "يمكن للشركة التي تشغّل نظام الذكاء الاصطناعي أن ترى تلك المحادثات، وقد تقوم بما يعرف بعملية التنقيب في البيانات (data mining) أو بيع محتوى المحادثة".
ولفت الدكتور مايكل فيل، أستاذ الحقوق والقواعد الرقمية بكلية القانون في جامعة يونيفرسيتي كولدج لندن، إلى أن بعض روبوتات الدردشة بشكل عام "توفر إعدادات إذا تم تفعيلها يمكن أن تحد من استخدام محادثات الأفراد في التدريبات المستقبلية"، لكنه يضيف أنها "تحتفظ بكل البيانات بغرض مراقبة المحتوى، أي التحقق مما إذا كنت قد قلت شيئاً ضاراً أم لا والتعلم من ذلك".
كما أن بعض الأشخاص لا يدركون أنهم يجعلون محتويات محادثاتهم متاحة للآخرين.
على سبيل المثال، مستخدمو تطبيق روبوت الدردشة الجديد التابع لشركة "ميتا" قد لا يدركون أنهم عندما يضغطون على خيار المشاركة "Share" فإنهم يضيفون محادثاتهم إلى قائمة المحتوى "Discover"، وهو ما يعني أن المستخدمين الآخرين بات باستطاعتهم رؤيتها.
وتحدث العديد من خبراء الأمن السيبراني عن أن ذلك يمثل مشكلةً أمنيةً كبيرة لأنه يمكن تتبع المحادثة بسهولة إلى حسابات على وسائل التواصل الاجتماعي من خلال أسماء المستخدمين أو صور البروفايل الخاصة بهم.