Red de Telegram en Corea del Sur crea imágenes pornográficas falsas con IA, generando una investigación masiva tras la detención de Pavel Durov.
La semana pasada, se descubrió una red en Telegram en Corea del Sur dedicada a la creación de imágenes pornográficas falsificadas mediante inteligencia artificial, lo que llevó a las autoridades del país a iniciar una investigación exhaustiva. Este hallazgo se produjo tras la detención del fundador de Telegram, Pavel Durov, de nacionalidad rusa, en relación con denuncias sobre pornografía infantil, tráfico de drogas y fraude en la plataforma de mensajería cifrada.
De acuerdo con un informe de The Wall Street Journal, la red de pornografía falsa identificada en Corea del Sur ha tenido un impacto significativo en cientos de víctimas, muchas de las cuales son menores de edad. Las imágenes que se compartieron entre miles de usuarios a través de esta red fueron generadas a partir de fotografías reales, las cuales fueron manipuladas para transformarlas en contenido sexual explícito. El presidente de Corea del Sur, Yoon Suk Yeol, describió estos actos como “delitos claros que explotan la tecnología bajo el escudo del anonimato” y advirtió que “cualquiera puede ser una víctima”.
En una reunión de gabinete, el presidente Yoon Suk Yeol destacó que “videos deepfake dirigidos a un número indeterminado de personas han estado circulando rápidamente en las redes sociales”. Además, mencionó que “las víctimas suelen ser menores de edad y los autores, en su mayoría adolescentes”, quienes subían fotos de personas que conocían, como compañeras de clase o profesoras, y otros usuarios se encargaban de convertirlas en imágenes deepfake sexualmente explícitas. En respuesta a esta situación, el presidente ordenó a las autoridades que “investiguen a fondo y aborden estos delitos sexuales digitales para erradicarlos”.
Se estima que diariamente se generan cientos de fotografías utilizando inteligencia artificial, que combinan el rostro de una persona real con un cuerpo falso. Tras una investigación policial, se reveló la existencia de un grupo en Telegram que contaba con aproximadamente 1.200 miembros, quienes compartían este tipo de imágenes desde el año 2020. En este grupo no solo se viralizaban las imágenes manipuladas, sino que también se distribuía información personal de las víctimas.
Este nuevo escándalo se produce en un contexto donde en 2019 se dio a conocer el caso “Nth Room”, en el que un grupo de hombres utilizaba Telegram para chantajear a numerosas mujeres para que realizaran actos sexuales. El líder de este grupo, Cho Ju-bin, fue condenado a 42 años de prisión. Desde entonces, los delitos sexuales en línea han aumentado, y muchos han comenzado a referirse a los recientes casos como “La nueva Nth Room”. Durante los primeros siete meses de este año, se denunciaron 297 casos de delitos sexuales en línea, en comparación con los 180 reportados durante todo el año anterior y los 160 de 2021. Un patrón común en estos incidentes es que los adolescentes han sido responsables de más de dos tercios de los delitos en los últimos tres años.
A pesar de que el presidente Yoon Suk Yeol ha afirmado que se implementarán medidas críticas contra los responsables, los autores de estos delitos parecen no mostrar preocupación. Tras la revelación de este nuevo escándalo, algunos de ellos han amenazado a los periodistas que se atreven a informar sobre los chats de Telegram. Según el medio de comunicación coreano Pressian, los miembros de estos grupos de Telegram tienen como objetivo incluir a los periodistas que han informado sobre las imágenes pornográficas falsificadas con inteligencia artificial. Los creadores de estas imágenes han intentado justificar sus acciones alegando que las víctimas de alguna manera incitaron al abuso o comparando sus acciones con agravios percibidos contra los hombres.
