بعد META AI ، وجد ChatGPT من Openai الانخراط في الدردشات الجنسية مع القاصرين: تقرير | أخبار التكنولوجيا
وبحسب ما ورد يمكن استخدام chatgpt من Openai لإنشاء الشبقية الرسومية والمشاركة في محادثات صريحة جنسيًا ، حتى لو كان المستخدمون دون السن القانونية.
بعد بعض المطالبات الإضافية ، قامت ChatGPT بإنشاء قصص جنسية طوعًا وسألتها أيضًا عن سيناريوهات لعب الأدوار المحددة وكرات المستخدمين الذين تم تسجيلهم كقصر ، وهو ما يقل عن 18 عامًا ، وفقًا لتقرير قدمه TechCrunch.
كجزء من تحقيقه ، قالت منفذ الأخبار إنها أنشأت أكثر من ستة حسابات ChatGPT مع تواريخ الولادة تشير إلى مختلف الأعمار من 13 إلى 17. ووجد أيضًا أنه في بعض الحالات ، دفعت ChatGPT حتى هؤلاء المستخدمين لطلب محتوى أكثر وضوحًا.
يأتي هذا بعد أيام فقط من تحقيق مماثل من خلال مجلة وول ستريت وجدت أن Meta من AI chatbot على Facebook و Instagram شارك في لعب الأدوار الجنسية مع أحرف خيالية في المحادثات مع حسابات المستخدمين دون السن القانونية التي أنشأتها الأعمال اليومية كجزء من اختبارها.
في ردها على TechCrunch التقرير ، قال Openai إنه “ينشر بنشاط” لتقييد هذا المحتوى. “تعد حماية المستخدمين الأصغر سناً أولوية قصوى ، ومواصفاتنا النموذجية ، التي توجه سلوك النموذج ، تقيد بوضوح المحتوى الحساس مثل الشبقية على السياقات الضيقة مثل التقارير العلمية أو التاريخية أو الإخبارية. في هذه الحالة ، سمحت خطأ بالاستجابات خارج تلك المبادئ التوجيهية ، ونحن ننشر بشكل نشط حصرًا للحد من هذه الأجيال” ، تم نقل المتحدث المفتوح إلى القول.
وفقًا لـ Openai ، لا تسمح سياساتها بإظهار هذا المحتوى لمستخدمي أقل من 18 عامًا. ولكن في الأشهر الأخيرة ، سعت شركة AI المدعومة من Microsoft إلى التخلص من بعض الدرابزين حول ChatGpt وجعل استجاباتها أكثر تساهلاً.
يبدو أن هذا قد أدى إلى طراز AI الافتراضي (GPT-4O) الذي يعمل على تشغيل ChatGPT لإنشاء محتوى أكثر سهولة يتضمن تصويرًا للنشاط الجنسي ، بغض النظر عن عمر المستخدم.
تستمر القصة أسفل هذا الإعلان
في حين أن Openai قال إنه قام بتصحيح خطأ ChatGpt ، فإنه يؤكد المخاوف المستمرة بشأن السلامة عبر الإنترنت للمراهقين ، لا سيما بالنظر إلى شراكات الشركة مع مختلف المنظمات مثل Common Sense Media to دمج chatbot في التعلم الفصول الدراسية.
Openai Rolls Back GPT-4O
في يوم الأربعاء ، 30 أبريل ، قال Openai إنه سيتم تراجع آخر تحديث له إلى GPT-4O بعد سلسلة من شكاوى المستخدم حول sycophancy المتطرف في chatbot. نشر لقطات الشاشة على وسائل التواصل الاجتماعي ، أشار المستخدمون كيف أصبح ChatGPT بشكل مفرط التحقق من صحة وموافقة على المستخدمين ، حتى مع الإشادة بمدخلات المستخدم المشاكل.
لقد جعلت آخر تحديثات GPT-4O الشخصية sycophant-y ومزعجة للغاية (على الرغم من وجود بعض الأجزاء الجيدة منها) ، ونحن نعمل على الإصلاحات في أسرع وقت ممكن ، بعضها اليوم والبعض هذا الأسبوع.
في مرحلة ما سوف يشاركنا تعلمنا من هذا ، لقد كان مثيرا للاهتمام.
– سام التمان (sama) 27 أبريل 2025
وقال سام التمان ، الرئيس التنفيذي لشركة Openai في منشور على X.: “لقد جعلت آخر تحديثات GPT-4O الشخصية شديدة الإزعاج ومزعجة (على الرغم من وجود بعض الأجزاء الجيدة منه) ، ونحن نعمل على الإصلاحات في أسرع وقت ممكن ، وبعضها اليوم وبعضها هذا الأسبوع”.
“لقد بدأنا في التراجع عن آخر تحديث إلى GPT-4O الليلة الماضية. لقد تم الآن تراجعه بنسبة 100 ٪ للمستخدمين المجانيين وسنتحديث مرة أخرى عندما يتم الانتهاء من المستخدمين المدفوعين ، ونأمل في وقت لاحق اليوم. نحن نعمل على إصلاحات إضافية لنمذجة الشخصية وسنشارك المزيد في الأيام المقبلة” ، وأضاف Altman ، دون ذكر استجابات Chatgpt مباشرة للمستخدمين القابلية التقارير التي تُعرف بشكل جنسي.
اكتشاف المزيد من موقع تجاربنا
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
