El sábado pasado, apareció un mensaje de Telegram de un remitente anónimo en el teléfono de Heejin. “Se han filtrado tus fotos e información personal. Discutámoslo”.
Cuando la estudiante ingresó a la sala de chat para leer el mensaje, recibió una foto suya tomada hace varios años cuando todavía estaba en la escuela. Siguió una segunda imagen con la misma foto, excepto que esta era sexualmente explícita y falsa.
Horrorizada, Heejin no respondió, ese no es su nombre real, pero las imágenes siguieron apareciendo. En cada caso, su rostro había sido adherido a un cuerpo durante una relación sexual utilizando tecnología sofisticada. falso.
El falsificaciones profundasque combinan el rostro de una persona real con un cuerpo falso sexualmente explícito son cada vez más generados por inteligencia artificial.
«Estaba petrificado, me sentía muy solo», dijo Heejin a la BBC.
Dos días antes, la periodista surcoreana Ko Narin había publicado la primicia más importante de su carrera. La policía investigó recientemente redes de pornografía falsas en dos de las mejores universidades del país, y Ko estaba convencido de que tenía que haber algo más.
Comenzó a buscar en las redes sociales y descubrió docenas de grupos de chat en la aplicación de mensajería Telegram donde los usuarios compartían fotos de mujeres que conocían y usaban software de inteligencia artificial para convertirlas en imágenes pornográficas falsas en segundos.
«Cada minuto la gente subía fotos de chicas que conocían pidiendo ser transformadas. falsificaciones profundasexplicó Ko.
Ko descubrió que estos grupos no sólo se dirigían a estudiantes universitarios. Había salas dedicadas a institutos específicos e incluso escuelas. Si se creara mucho contenido con fotografías de un estudiante en particular, incluso se le podría asignar su propia habitación. Estos espacios virtuales, los llamados “salas de humillación” Las habitaciones o “amigos de amigos” suelen tener condiciones de acceso estrictas.
El informe de Ko en el periódico Hankyoreh conmocionó a Corea del Sur. El lunes, la policía anunció que estaba considerando abrir una investigación sobre Telegram, siguiendo el ejemplo de las autoridades francesas que acusaron al fundador ruso de Telegram de delitos relacionados con la aplicación. El gobierno ha prometido imponer penas más duras a los implicados y el presidente ha pedido una mejor educación para los jóvenes.
En una declaración a la BBC, Telegram dice que está «combatiendo activamente el contenido dañino en su plataforma, incluida la pornografía ilegal».
Un proceso sistemático y organizado
La BBC ha visto descripciones de varios de estos chats. Se pide a los miembros que publiquen más de cuatro fotos de alguien, junto con su nombre, edad y el área en la que vive.
«Me sorprendió lo sistemático y organizado que fue el proceso», dijo Ko. «Lo más aterrador que descubrí fue un grupo para estudiantes menores de edad en una escuela con más de 2000 miembros».
En los días posteriores a la publicación del artículo de Ko, los activistas por los derechos de las mujeres también comenzaron a rastrear Telegram y a seguir pistas.
Al final de esta semana, Más de 500 escuelas y universidades han sido identificadas como objetivos.. Aún no se ha determinado el número real de afectados, pero se cree que muchos tienen menos de 16 años, que es la edad de consentimiento en Corea del Sur. Muchos de los presuntos perpetradores son adolescentes.
Heejin dijo que conocer el alcance de la crisis ha aumentado su ansiedad ya que ahora le preocupa cuántas personas pueden haberla visto. falsificaciones profundas. Al principio se culpó a sí misma. «No podía dejar de pensar, si esto hubiera sucedido porque publiqué mis fotos en las redes sociales, ¿debería haber tenido más cuidado?».
Desde entonces, decenas de mujeres y adolescentes en todo el país han eliminado sus fotos de las redes sociales o desactivado sus cuentas por temor a ser explotadas a continuación.
«Estamos frustrados y enojados por tener que censurar nuestro comportamiento y uso de las redes sociales a pesar de que no hemos hecho nada malo», dijo Ah-eun, un estudiante universitario cuyos compañeros de clase fueron atacados.
Ah-eun explicó que la policía le dijo a una víctima en su universidad que no se molestara en seguir con su caso porque sería muy difícil atrapar al perpetrador. Por cierto, “no fue un crimen real” porque “las fotos eran falsas”.
Noticias1
Una cuestión de responsabilidad compartida
En el centro de este escándalo está la aplicación de mensajería Telegram. La aplicación es conocida por su enfoque de moderación “ligera” y ha sido acusada durante años de no monitorear adecuadamente el contenido y, en particular, los grupos.
Esto lo ha convertido en un espacio privilegiado en el que pueden prosperar las conductas delictivas.
La semana pasada, los políticos y la policía respondieron enérgicamente, prometiendo investigar estos crímenes y llevar a los perpetradores ante la justicia.
Los lunes, La Agencia de Policía Nacional de Seúl anunció que investigaría a Telegram por su papel en la difusión de imágenes pornográficas falsas de niños.
El fundador de la aplicación, Pavel Durov, fue acusado en Francia la semana pasada de complicidad en varios delitos relacionados con la aplicación, incluido permitir compartir pornografía infantil.
Pero Activistas por los derechos de las mujeres acusan a las autoridades surcoreanas de permitir abusos sexuales en Telegram han estado hirviendo incontrolablemente durante demasiado tiempo porque Corea ha experimentado esta crisis antes.
En 2019, salió a la luz que una red de sexo estaba usando Telegram para obligar a mujeres y niños a crear y compartir imágenes sexualmente explícitas de ellos mismos.
Luego, la policía pidió ayuda a Telegram con su investigación, pero la aplicación ignoró sus siete solicitudes. Aunque el cabecilla fue condenado a más de 40 años de prisión, no se tomaron medidas contra la plataforma por temor a la censura.
«Condenaron a los actores clave, pero ignoraron la situación, y creo que eso exacerbó la situación», dijo Ko.
Sexismo estructural
Park Jihyun, quien descubrió la red sexual Nth Room cuando era estudiante de periodismo en 2019, se ha convertido en un defensor político de las víctimas de delitos sexuales digitales. Afirma que los estudiantes y los padres la han estado llamando llorando varias veces al día desde que estalló el escándalo de los deepfake.
«Vieron su escuela en la lista compartida en las redes sociales y tienen miedo».
Park pidió al gobierno que regule o incluso prohíba la aplicación en Corea del Sur. «Si estas empresas de tecnología no cooperan con las autoridades, El Estado debe regularlos para proteger a sus ciudadanos.explicó.
Antes de que estallara esta última crisis, el centro de defensa en línea para víctimas de abuso sexual de Corea del Sur ya había notado un fuerte aumento en el número de víctimas menores de edad de pornografía. falso.
En 2023, atendieron a 86 víctimas adolescentes. En los primeros ocho meses de este año el número aumentó a 238. Sólo en la última semana, otras 64 víctimas jóvenes se han presentado.
Así lo aseguró uno de los responsables del centro, Park Seonghye. La semana pasada, su personal recibió una avalancha de llamadas y trabajó incansablemente.. «Para nosotros fue una emergencia importante, como una situación de guerra», dijo.
“Usando la última tecnología de falsoahora hay muchas más imágenes que antes, y tememos que aumenten.
Además de asesorar a las víctimas, el centro rastrea el contenido dañino y trabaja con plataformas en línea para eliminarlo. Park explica que en algunos casos Telegram ha eliminado contenido a petición de las víctimas. “Así que no es imposible”, comentó.
En una declaración a la BBC, Telegram dijo que sus moderadores «monitorean proactivamente las partes públicas de la aplicación, utilizan herramientas de inteligencia artificial y aceptan informes de usuarios para eliminar millones de contenidos cada día que violan los términos de servicio de Telegram».
Aunque los grupos defensores de los derechos de las mujeres aceptan que las nuevas tecnologías de inteligencia artificial están facilitando la explotación de las víctimas, afirman que es la última forma de misoginia en Corea del Sur.
En primer lugar, las mujeres sufrieron oleadas de abuso verbal en línea. Luego vino la epidemia de cámaras espía, que filmaban en secreto a personas en baños y vestuarios públicos.
«La raíz de todo esto es el sexismo estructural y la solución es la igualdad de género.«dice un comunicado firmado por 84 grupos de mujeres.
Se trata de una crítica directa al presidente del país, Yoon Suk Yeol, por negar la existencia de sexismo estructural, recortar la financiación de los grupos de apoyo a las víctimas y abolir el ministerio de igualdad de género del gobierno.
Imágenes falsas
Las sanciones aumentarán
Lee Myung-hwa, que trata a jóvenes delincuentes sexuales, estuvo de acuerdo, aunque el estallido de falsificaciones profundas Puede parecer repentino porque ha estado acechando bajo la superficie durante mucho tiempo.
“Para los jóvenes, falsificaciones profundas “Se han convertido en parte de su cultura, lo ven como un juego o una broma”, afirmó el consejero que dirige el Centro Cultural Juvenil Aha Seúl.
Lee explicó que es importante educar a los jóvenes. Aseguró que hay estudios que demuestran que cuando a los agresores se les dice lo que hicieron mal, tienen una mejor comprensión de lo que constituye abuso sexual y no reinciden.
Mientras tanto, El gobierno ha anunciado que aumentará las penas para quienes creen y compartan imágenes falsas.. También castigará a quienes los vean.
La razón de esto es la crítica de no castigar a los autores. Uno de los problemas es que los delincuentes son en su mayoría menores de edad, que normalmente son juzgados en tribunales de menores, donde reciben sentencias más leves.
Desde que se descubrieron las salas de chat, muchas se han cerrado, pero es casi seguro que otras nuevas ocuparán su lugar. Ya se ha habilitado una sala de humillación para los periodistas que cubren esta historia. Ko, quien dio la noticia, dijo que lo mantuvo despierto por la noche. “Sigo mirando alrededor de la habitación para ver si publicaron mi foto”, explica.
Este miedo se ha extendido a casi todas las adolescentes y mujeres jóvenes de Corea del Sur. Ah-eun, una estudiante, dijo que esto le hizo desconfiar de sus conocidos varones.
“Ahora no puedo estar segura de que no estén cometiendo estos crímenes a mis espaldas sin que yo lo sepa”, dice. «Me he vuelto hipervigilante en todas mis interacciones con la gente, lo cual no puede ser algo bueno».
Te invitamos a leer: Las razones por las que se nos antoja comida poco saludable y qué podemos hacer para evitarlas
