ساعات قليلة بعد طرح “سناب شات” لخاصية My AI الخاصة بالشات بوت الآلي، بودأت الشركة في تلقي عاصفة من الانتقادات والمخاوف من نتائج تفاعل المراهقين وصغار السن مع هذه الأداة.
تعمل هذه الميزة بواسطة أداة الدردشة الآلية سريعة الانتشار “تشات جي بي تي” (ChatGPT)، ومثلها مثل “تشات جي بي تي”، يمكنها تقديم النصائح، والإجابة على الأسئلة، والتواصل مع المستخدمين بشكل أشبه بالرد البشري، لكن إصدار سناب شات يتميز ببعض الاختلافات الجوهرية الذي يجعله يتفوق على “شات جي بي تي” في نسخته التقليدية، حيث أنه يمكن للمستخدمين تخصيص اسم خاص لروبوت الدردشة، وتصميم صورة رمزية خاصة به أي ما يسمي الـ “بيتموجي”، وإضافته إلى المحادثات مع الأصدقاء.
الخلاصة من هذا الروبوت أنه يبدو أكثر تفاعلية من زيارة موقع ChatGPT الإلكتروني الذي ما زال له روح آلية وليس بالكامل شبيه بالبشر، وهو الأمر الذي أرعب عدد كبير من أولياء الأمور وفقا لتقرير نشرته شبكة “سي إن إن”.
وتقول ليندسي لي، وهي أم من إيست برايري بولاية ميسوري، لديها ابنة تبلغ من العمر 13 عامًا إن ابنتها أعجبت بشدة بهذا الروبوت الآلي الأمر الذي جعلها تنصح ابنتها بالابتعاد عن هذه الخاصية بالكلية وعدم التعامل مع الشات بوت، مضيفة: “لا أعتقد أنني مستعدة لتعليم طفلتي كيفية الفصل عاطفيًا بين البشر والآلات، في حين أنهما متشابهان تمامًا من وجهة نظرها، أعتقد أن هناك خطًا فاصلًا واضحًا للغاية بين التعامل مع البشر والتعامل مع الآلة ولكن سناب شات يتجاوزه”.
تواجه الأداة التقنية الجديدة ردود فعل سلبية، ليس فقط من الآباء، ولكن أيضًا من بعض مستخدمي سناب شات الذين ينهالون على التطبيق بتقييمات سلبية في متجر التطبيقات وانتقادات على وسائل التواصل الاجتماعي بسبب مخاوف تتعلق بالخصوصية، وتبادلات “مريبة”، وعدم القدرة على إزالة الميزة من خلاصة محادثاتهم إلا إذا دفعوا اشتراكًا مميزًا.
في حين أن البعض وجد أن هذه الأداة لها جوانب إيجابية وقيمة، إلا أن ردود الفعل المتباينة تُشير إلى المخاطر التي تواجهها الشركات عند طرح تقنيات الذكاء الاصطناعي التوليدي الجديدة في منتجاتها، وخاصة في منتجات مثل سناب شات، التي يميل مستخدموها إلى أن يكونوا أصغر سنًا.
وفي سياق متصل، أعرب السيناتور الديمقراطي مايكل بينيت عن مخاوفه بشأن تفاعلات روبوت المحادثة مع المستخدمين الأصغر سنًا.، مشيرا إلى تقارير تفيد بأنه يمكن أن يقدم للأطفال اقتراحات حول كيفية الكذب على آبائهم.
كتب بينيت في رسالة موجهة إلى الرؤساء التنفيذيين لشركة سناب وشركات تقنية أخرى، بعد أسابيع من إطلاق “ماي أيه آي” لعملاء سناب المشتركين يقول فيها: “ستكون هذه الأمثلة مزعجة لأي منصة تواصل اجتماعي، لكنها مقلقة بشكل خاص لسناب شات، الذي يستخدمه ما يقرب من 60% من المراهقين الأمريكيين، وعلى الرغم من اعتراف سناب بأن “ماي أيه آي” تجريبي، إلا أنها سارعت إلى تسجيل الأطفال والمراهقين الأمريكيين في تجربتها الاجتماعية”.
في الأيام التي تلت إطلاقه الرسمي، أعرب مستخدمو سناب شات عن مخاوفهم صراحةً. ووصف أحد المستخدمين تفاعله مع الأداة بأنه “تجربة مرعبة” بعد أن حاول سؤال الأداة عن عنوانه الشخصي ليختبره، فكذب عليه قائلا إنه لا يعرف الهنوان ثم مع تغيير صيغة السؤال كف عن الموقع الفعلي للمستخدم وأنه يسكن في كولورادو
وفي فيديو آخر على تيك توك حصد أكثر من 1.5 مليون مشاهدة، سجلت مستخدمة تُدعى أرييل أغنية بمقدمة وجوقة وأوتار بيانو من تأليف My AI يتحدث من خلالها الشات بوت عن معنى أن يكون روبوت دردشة، ولكن عندما أعادت الأغنية المسجلة للأداة أنكر أنه قام بالتأليف والتلحين أو المشاركة، قائلا “أنا آسف، ولكن بصفتي نموذج لغة للذكاء الاصطناعي، لا أكتب الأغاني”. ووصفت أرييل هذا التبادل بأنه “مخيف”.
أعرب مستخدمون آخرون عن مخاوفهم بشأن كيفية فهم الأداة للصور والتفاعل معها بالتعليق وجمع المعلومات من خلالها، الأمر الذي ينتهك بشكل صريح خصوصية المستخدمين. كتب أحد مستخدمي سناب شات على فيسبوك يشرح فيها تجربته مع الأداة: “التقطت صورة… فرد قائلا ‘أحذية جميلة’.
وأفادت شركة سناب شات شبكة CNN أنها تواصل تحسين My AI بناءً على تعليقات المجتمع وتعمل على وضع المزيد من الحواجز الأمنية للحفاظ على سلامة مستخدميها. صرحت الشركة أيضًا أنه، على غرار أدواتها الأخرى، لا يتعين على المستخدمين التفاعل مع My AI إذا لم يرغبوا في ذلك.
ومع ذلك، لا يمكن إزالة My AI من موجزات الدردشة إلا إذا اشترك المستخدم في خدمة Snapchat+ ويقول بعض المراهقين إنهم اختاروا دفع رسوم Snapchat+ البالغة 3.99 دولارًا أمريكيًا لإيقاف الأداة قبل إلغاء الخدمة فورًا.