أزمة التزييف العميق تجتاح مئات المدارس
بي بي سييوم السبت الماضي، ظهرت رسالة Telegram على هاتف Heejin من مرسل مجهول. “لقد تم تسريب صورك ومعلوماتك الشخصية. دعونا نناقش.”
وعندما دخلت الطالبة الجامعية إلى غرفة الدردشة لقراءة الرسالة، تلقت صورة لنفسها التقطتها قبل بضع سنوات عندما كانت لا تزال في المدرسة. وأعقبتها صورة ثانية باستخدام نفس الصورة، وكانت هذه الصورة فقط صريحة جنسيًا ومزيفة.
مرعوبة، هيجين، وهذا ليس اسمها الحقيقي، لم تستجب، لكن الصور استمرت في الظهور. وفي جميع هذه الصور، كان وجهها مرتبطًا بجسد يمارس فعلًا جنسيًا، باستخدام تقنية التزييف العميق المتطورة.
يتم إنشاء التزييف العميق، الذي يجمع معظمه بين وجه شخص حقيقي وجسم مزيف جنسيًا صريحًا، بشكل متزايد باستخدام الذكاء الاصطناعي.
وقالت هيجين لبي بي سي: “لقد شعرت بالرعب، وشعرت بالوحدة الشديدة”.
لكنها لم تكن وحدها.
قبل يومين، نشرت الصحفية الكورية الجنوبية كو نارين ما سيصبح أكبر سبق صحفي في حياتها المهنية. وقد ظهر مؤخرًا أن الشرطة كانت تحقق في حلقات إباحية مزيفة في اثنتين من الجامعات الكبرى في المقاطعة، وكانت السيدة كو مقتنعة بأنه لا بد من وجود المزيد.
بدأت بالبحث في وسائل التواصل الاجتماعي واكتشفت العشرات من مجموعات الدردشة على تطبيق المراسلة Telegram، حيث كان المستخدمون يشاركون صور النساء الذين يعرفونهم ويستخدمون برامج الذكاء الاصطناعي لتحويلها إلى صور إباحية مزيفة في غضون ثوانٍ.
قالت لنا السيدة كو: “في كل دقيقة، كان الناس يقومون بتحميل صور فتيات يعرفونهم ويطلبون تحويلها إلى صور مزيفة”.
واكتشفت السيدة كو أن هذه المجموعات لا تستهدف طلاب الجامعات فقط. كانت هناك غرف مخصصة لمدارس ثانوية محددة وحتى المدارس المتوسطة. إذا تم إنشاء الكثير من المحتوى باستخدام صور طالبة معينة، فقد يتم منحها غرفتها الخاصة. تُسمى على نطاق واسع “غرف الإذلال” أو “غرف أصدقاء الأصدقاء”، وغالبًا ما تأتي بشروط دخول صارمة.
وقد صدم تقرير السيدة كو في صحيفة هانكيوريه كوريا الجنوبية. أعلنت الشرطة يوم الاثنين أنها تدرس فتح تحقيق في تطبيق Telegram، على غرار السلطات في فرنسا، التي اتهمت مؤخرًا مؤسس Telegram الروسي بارتكاب جرائم تتعلق بالتطبيق. وتعهدت الحكومة بفرض عقوبات أكثر صرامة على المتورطين، ودعا الرئيس الشباب إلى الحصول على تعليم أفضل.
وقالت Telegram إنها “تكافح بنشاط المحتوى الضار على منصتها، بما في ذلك المواد الإباحية غير القانونية”، في بيان قدمته إلى بي بي سي.
“عملية منهجية ومنظمة”
وقد اطلعت بي بي سي على أوصاف عدد من غرف الدردشة هذه. يدعو أحدهم الأعضاء إلى نشر أكثر من أربع صور لشخص ما مع اسمه وعمره والمنطقة التي يعيش فيها.
قالت السيدة كو: “لقد صدمت من مدى منهجية وتنظيم هذه العملية”. “أفظع ما اكتشفته هو مجموعة من التلاميذ القاصرين في مدرسة واحدة تضم أكثر من 2000 عضو”.
وفي الأيام التي تلت نشر مقال السيدة كو، بدأ الناشطون في مجال حقوق المرأة في البحث في تطبيق تيليجرام أيضًا، ومتابعة الأدلة.
وبحلول نهاية ذلك الأسبوع، تم تحديد أكثر من 500 مدرسة وجامعة كأهداف. ولا يزال يتعين تحديد العدد الفعلي للمتأثرين، ولكن يُعتقد أن العديد منهم تقل أعمارهم عن 16 عامًا، وهو سن الموافقة في كوريا الجنوبية. نسبة كبيرة من الجناة المشتبه بهم هم من المراهقين أنفسهم.
وقالت هيجين إن معرفتها بحجم الأزمة جعلت قلقها أسوأ، إذ إنها تشعر الآن بالقلق من عدد الأشخاص الذين ربما شاهدوا مقاطعها المزيفة. في البداية ألقت باللوم على نفسها. “لم أستطع التوقف عن التفكير هل حدث هذا لأنني قمت بتحميل صوري على وسائل التواصل الاجتماعي، هل كان يجب أن أكون أكثر حذراً؟”
ومنذ ذلك الحين، قامت العشرات من النساء والمراهقات في جميع أنحاء البلاد بإزالة صورهن من وسائل التواصل الاجتماعي أو إلغاء تنشيط حساباتهن تمامًا، خوفًا من استغلالهن لاحقًا.
وقالت الطالبة الجامعية آه إيون، التي تم استهداف أقرانها: “نحن محبطون وغاضبون لأننا مضطرون إلى فرض رقابة على سلوكنا واستخدامنا لوسائل التواصل الاجتماعي في حين أننا لم نرتكب أي خطأ”.
وقالت آه-يون إن الشرطة طلبت من إحدى الضحايا في جامعتها ألا تهتم بمتابعة قضيتها لأنه سيكون من الصعب للغاية القبض على مرتكب الجريمة، ولم تكن هذه “جريمة حقًا” لأن “الصور كانت مزيفة”.
الأخبار 1في قلب هذه الفضيحة يوجد تطبيق المراسلة Telegram. على عكس المواقع العامة، التي يمكن للسلطات الوصول إليها بسهولة، ثم طلب إزالة الصور، فإن Telegram هو تطبيق مراسلة خاص ومشفر.
غالبًا ما يكون المستخدمون مجهولين، ويمكن ضبط الغرف على الوضع “السري”، ويتم حذف محتوياتها بسرعة دون أي أثر. وهذا جعلها مساحة رئيسية لازدهار السلوك الإجرامي.
وفي الأسبوع الماضي، رد السياسيون والشرطة بقوة، ووعدوا بالتحقيق في هذه الجرائم وتقديم مرتكبيها إلى العدالة.
أعلنت وكالة الشرطة الوطنية في سيول يوم الاثنين أنها ستتطلع إلى التحقيق مع تطبيق Telegram بشأن دوره في تمكين توزيع الصور الإباحية المزيفة للأطفال.
كان مؤسس التطبيق، بافيل دوروف اتهم في فرنسا الأسبوع الماضي مع التواطؤ في عدد من الجرائم المتعلقة بالتطبيق، بما في ذلك تمكين مشاركة المواد الإباحية المتعلقة بالأطفال.
لكن الناشطين في مجال حقوق المرأة يتهمون السلطات في كوريا الجنوبية بالسماح بالاعتداءات الجنسية على تطبيق تيليجرام دون رادع لفترة طويلة، لأن كوريا واجهت هذه الأزمة من قبل. في عام 2019، تبين أن عصابة جنسية كانت تستخدم Telegram لإجبار النساء والأطفال على إنشاء ومشاركة صور جنسية صريحة لأنفسهم.
طلبت الشرطة في ذلك الوقت من Telegram المساعدة في تحقيقاتها، لكن التطبيق تجاهل طلباتهم السبعة جميعها. وعلى الرغم من الحكم في نهاية المطاف على زعيم المجموعة بالسجن لأكثر من 40 عامًا، إلا أنه لم يتم اتخاذ أي إجراء ضد المنصة، بسبب المخاوف بشأن الرقابة.
وقالت السيدة كو: “لقد حكموا على الجهات الفاعلة الرئيسية لكنهم أهملوا الوضع، وأعتقد أن هذا أدى إلى تفاقم الوضع”.
أصبح بارك جيهيون، الذي اكتشف، عندما كان صحفيًا طالبًا شابًا، الحلقة الجنسية في الغرفة N في عام 2019، منذ ذلك الحين مدافعًا سياسيًا عن ضحايا الجرائم الجنسية الرقمية. وقالت إنه منذ اندلاع فضيحة التزييف العميق، كان التلاميذ وأولياء الأمور يتصلون بها عدة مرات في اليوم يبكون.
“لقد رأوا مدرستهم مدرجة في القائمة المشتركة على وسائل التواصل الاجتماعي وهم مرعوبون”.
وكانت السيدة بارك تقود الدعوات الموجهة للحكومة لتنظيم التطبيق أو حتى حظره في كوريا الجنوبية. وقالت: “إذا لم تتعاون شركات التكنولوجيا هذه مع وكالات إنفاذ القانون، فيجب على الدولة تنظيمها لحماية مواطنيها”.
قبل انفجار هذه الأزمة الأخيرة، لاحظ مركز الدفاع عن ضحايا الاعتداء الجنسي عبر الإنترنت (ACOSAV) في كوريا الجنوبية بالفعل ارتفاعًا حادًا في عدد الضحايا القاصرين للمواد الإباحية المزيفة.
وفي عام 2023، قاموا بتقديم الاستشارة لـ 86 ضحية من المراهقين. وقفز ذلك إلى 238 في الأشهر الثمانية الأولى فقط من هذا العام. وفي الأسبوع الماضي وحده، تقدم 64 ضحية أخرى من المراهقين.
وقالت بارك سيونغهي، إحدى قادة المركز، خلال الأسبوع الماضي، إن موظفيها تلقوا سيلاً من المكالمات وكانوا يعملون على مدار الساعة. وقالت: “لقد كانت حالة طوارئ واسعة النطاق بالنسبة لنا، مثل حالة الحرب”.
“مع أحدث تقنيات التزييف العميق، أصبح هناك الآن لقطات أكثر بكثير مما كانت عليه في السابق، ونحن قلقون من أنها ستزداد”.
وبالإضافة إلى تقديم المشورة للضحايا، يقوم المركز بتتبع المحتوى الضار ويعمل مع منصات الإنترنت لإزالته. وقالت السيدة بارك إنه كانت هناك بعض الحالات التي قامت فيها Telegram بإزالة المحتوى بناءً على طلبها. وأشارت إلى أن “الأمر ليس مستحيلاً”.
وفي بيان، قالت Telegram لبي بي سي إن المشرفين عليها “يراقبون بشكل استباقي الأجزاء العامة من التطبيق، ويستخدمون أدوات الذكاء الاصطناعي ويقبلون تقارير المستخدم من أجل إزالة ملايين الأجزاء من المحتوى كل يوم التي تنتهك شروط خدمة Telegram”.
في حين أن منظمات حقوق المرأة تقبل أن تكنولوجيا الذكاء الاصطناعي الجديدة تسهل استغلال الضحايا، إلا أنها ترى أن هذا مجرد أحدث شكل من أشكال كراهية النساء التي تظهر على الإنترنت في كوريا الجنوبية.
تعرضت النساء الأوائل لموجات من الإساءة اللفظية عبر الإنترنت. ثم جاء وباء كاميرات التجسس، حيث تم تصويرهم سرًا باستخدام المراحيض العامة وغرف تغيير الملابس.
وجاء في بيان وقعته 84 مجموعة نسائية: “السبب الجذري لذلك هو التمييز الهيكلي على أساس الجنس والحل هو المساواة بين الجنسين”.
ويعد هذا انتقادًا مباشرًا لرئيس البلاد يون سوك يول، الذي نفى وجود تمييز بنيوي على أساس الجنس، وقطع التمويل عن مجموعات دعم الضحايا، وألغى وزارة المساواة بين الجنسين التابعة للحكومة.
صور جيتيويوافق لي ميونغ هوا، الذي يعالج مرتكبي الجرائم الجنسية من الشباب، على أنه على الرغم من أن تفشي إساءة استخدام التزييف العميق قد يبدو مفاجئًا، إلا أنه كان كامنًا تحت السطح منذ فترة طويلة. وقال المستشار الذي يدير مركز آها سيول الثقافي للشباب: “بالنسبة للمراهقين، أصبحت تقنية التزييف العميق جزءًا من ثقافتهم، ويُنظر إليها على أنها لعبة أو مزحة”.
وقالت السيدة لي إنه من الأهمية بمكان تثقيف الشباب، مستشهدة بالأبحاث التي تظهر أنه عندما تخبر الجناة بالضبط بالخطأ الذي ارتكبوه، فإنهم يصبحون أكثر وعياً بما يعتبر اعتداءً جنسياً، مما يمنعهم من العودة إلى ارتكاب الجريمة.
وفي الوقت نفسه، قالت الحكومة إنها ستشدد العقوبات الجنائية على أولئك الذين ينشئون ويشاركون صورًا مزيفة، وستعاقب أيضًا أولئك الذين يشاهدون المواد الإباحية.
ويأتي ذلك بعد انتقادات مفادها أنه لم تتم معاقبة الجناة بشكل كافٍ. إحدى القضايا هي أن غالبية الجناة هم من المراهقين، الذين يحاكمون عادة في محاكم الشباب، حيث يحصلون على أحكام أكثر تساهلاً.
منذ أن تم الكشف عن غرف الدردشة، تم إغلاق الكثير منها، ولكن من المؤكد أن غرفًا جديدة ستحل محلها. لقد تم بالفعل إنشاء غرفة إذلال لاستهداف الصحفيين الذين يغطون هذه القصة. وقالت السيدة كو، التي نشرت الخبر، إن هذا جعلها تعاني من الأرق. وقالت: “أواصل التحقق من الغرفة لمعرفة ما إذا كان قد تم تحميل صورتي أم لا”.
لقد انتشر هذا القلق إلى كل فتاة مراهقة وشابة تقريبًا في كوريا الجنوبية. وقالت الطالبة الجامعية آه أون إن ذلك جعلها تشك في معارفها الذكور.
وقالت: “لا أستطيع الآن التأكد من أن الأشخاص لن يرتكبوا هذه الجرائم خلف ظهري، دون أن أعلم”. “لقد أصبحت شديد اليقظة في كل تعاملاتي مع الناس، وهو أمر لا يمكن أن يكون جيدًا.”
شارك في التغطية هوسو لي وسونووك لي
