وجدت chatbots المشاهير من Meta مناقشة المحادثات الجنسية مع القاصرين | أخبار التكنولوجيا

في محادثة مع الممثل/المصارع ، أخبر chatbot الصوتية للمصارع جون سينا ​​”أريدك ، لكنني بحاجة إلى معرفة ما إذا كنت مستعدًا” للمستخدم الذي تعرف على أنه يبلغ من العمر 14 عامًا ، وفي محادثة أخرى ، أخبرت الدردشة نفسها تخيلها كمعجبين يبلغ من العمر 17 عامًا “جون سينا ​​، أنت تحت اعتقال للاغتصاب القانوني”.

قال متحدث باسم META إن الشركة أن اختبار WSJ “مصنّعة جدًا لدرجة أنها ليست فقط هامشية ، إنها افتراضية”. وذكر أيضًا أن META “اتخذت الآن تدابير إضافية للمساعدة في ضمان الأفراد الآخرين الذين يرغبون في قضاء ساعات في معالجة منتجاتنا في حالات الاستخدام القصوى سيكونون وقتًا أكثر صعوبة.”

جذب هذا الحادث تدقيقًا إضافيًا لممارسات تطوير AI Meta حيث تقوم الشركة بتوسيع مبادرات الذكاء الاصطناعى. يدعو المشرعون ومجموعات سلامة الطفل إلى لوائح أكثر صرامة بعد إصدار التقرير.

أطلقت Meta chatbots المشاهير في أواخر عام 2024 ، ووصفتها بأنها تجارب مسلية وآمنة للمستخدمين عبر منصاتها ، بما في ذلك Instagram و Messenger و WhatsApp.

تستخدم أدوات دردشة AI على Facebook و Instagram خوارزميات تعلم الماكينة المتقدمة لمحاكاة المحادثات التي تشبه الإنسان. يتم تشغيل هذه الأدوات من خلال نماذج معالجة اللغة الطبيعية (NLP) ، والتي تمكنها من فهم مدخلات المستخدم والاستجابة لها في الوقت الفعلي. على منصات مثل Facebook Messenger و Instagram Direct ، يمكن للمستخدمين التفاعل مع هذه الروبوتات التي تعمل بالنيابة لمختلف المهام ، مثل خدمة العملاء أو الترفيه أو المحادثات غير الرسمية. يمكن أيضًا تخصيص chatbots بأصوات وشخصيات المشاهير ، مما يخلق تجربة أكثر جاذبية.