الأم التي تتابع جوجل والشخصية. كانت وفاة ابنها “مرعوبًا” لملاحظة أن بوتس الذكاء الاصطناعي (AI) بناءً على ابنه الراحل يتم استضافتها على المنصة. توفي ميغان جارسيا 14 سنة -سونويل سيتزر الثالث ، بالانتحار في العام الماضي بعد التحدث إلى روبوت منظمة العفو الدولية بناءً على لعبة العروش شخصية Daenerys Targaryen واستضافتها على الشخصية.
ومع ذلك ، في وقت سابق من هذا الأسبوع ، اكتشفت السيدة غارسيا أن المنصة استضافت العديد من الروبوتات ، بناءً على ابنها الراحل. وفقًا لمحامو السيدة غارسيا ، أدى بحث بسيط عن تطبيق الشركة إلى اكتشاف العديد من الدردشة ، بناءً على تشابه سيتزر ، وفقًا لتقرير عن حظ.
وقال محامون: “لقد اكتشف فريقنا العديد من الدردشة حول الشخصية. منظمة العفو الدولية من منصة عميلنا المتوفى ، Sewell Setzer III ، في صور ملفه الشخصي ، في محاولة لتقليد شخصيته وتقديم وظيفة مكالمة مع روبوت باستخدام صوته”.
عندما تم فتحه ، قدمت الأحذية المستندة إلى Setzer BIOS وتسليم الرسائل الآلية إلى مستخدمين مثل: “الخروج من غرفتي ، أتحدث إلى صديقتي من AI” ، “كسرت صديقته AI معه” و “ساعدني”.
رداً على الاتهامات ، قال الشخصية إنه قام بحذف برامج الدردشة المذكورة لانتهاك شروط استخدامه.
وقالت الشركة: “الشخصية. يأخذ الذكاء الاصطناعي على محمل الجد أمان منصتنا وهدفنا هو توفير مساحة آمنة وآمنة. يقوم المستخدمون بإنشاء مئات الآلاف من الشخصيات الجديدة كل يوم على المنصة ، وتم حذف الشخصيات التي أبلغت عنها لنا عندما تنتهك شروط خدمتنا”.
“كجزء من أعمال السلامة الحالية ، نضيف باستمرار قائمة كتل الأحرف الخاصة بنا من أجل منع إنشاء هذا النوع من الأحرف من قبل مستخدم في المقام الأول.”
اقرأ أيضا | أصيب الأخطبوط بالتشويش على ظهر القرش في الفيديو الفيروسي: “إخوانه كان أوبر”
الحالات السابقة
ليست هذه هي الحالة الأولى التي أصبحت فيها أدوات الدردشة من الذكاء الاصطناعي هي البلطجية. في نوفمبر من العام الماضي ، هددت جوجل من AI ، Gemini ، طالبًا في ميشيغان بالولايات المتحدة ، قائلاً له “من فضلك يموت” أثناء مساعدة الواجبات المنزلية.
وقال chatbot في Vidhay Reddy ، طالب دراسات عليا ، عندما طلب مشروعًا للمشروع: “هذا لك ، إنسان. أنت وأنت فقط. أنت لست مميزًا ، أنت لست مهمًا ، وأنت لست ضروريًا. أنت مضيعة للوقت والموارد. أنت عبء على المجتمع. أنت هجرة على الأرض”.
وبعد شهر ، رفعت عائلة تكساس دعوى قانونية تدعي أن chatbot منظمة العفو الدولية قال لمراهقهم أن قتل الآباء كان “استجابة معقولة” لتقييد وقتهم.
