El Ministerio de Juventud e Infancia de España ha emitido una alerta sobre el uso de inteligencia artificial para la creación de imágenes sexuales falsas de menores en la red social X, anteriormente conocida como Twitter. Esta advertencia surge en un contexto donde el Gobierno español ha solicitado a la Fiscalía General del Estado que inicie una investigación sobre Grok, la inteligencia artificial integrada en la plataforma, por su presunta implicación en delitos relacionados con la difusión de pornografía infantil y la producción de material de violencia sexual contra menores.
La ministra de Juventud e Infancia, Sira Rego, confirmó que el ministerio ha enviado un escrito formal a la Fiscalía para que examine las prácticas de Grok, tras recibir información de diversos medios de comunicación que indican que la inteligencia artificial estaría generando imágenes desnudas de menores a solicitud de usuarios. Rego enfatizó la gravedad de estos hechos, señalando que “diferentes medios de comunicación han publicado que Grok estaría desnudando a personas menores de edad a petición de diferentes usuarios, lo que podría suponer sendos delitos de pornografía infantil y contra la integridad moral”.
La ministra subrayó la necesidad urgente de una respuesta judicial para prevenir futuras violaciones de derechos fundamentales, especialmente en lo que respecta a la protección de niños y adolescentes en internet. “Es urgente que Fiscalía analice estos hechos gravísimos e inicie las medidas necesarias para evitar que más personas, especialmente menores de edad, vean vulnerados sus derechos fundamentales en internet”, añadió en su cuenta de Bluesky.
En el marco de esta situación, se encuentra en tramitación parlamentaria la Ley para la Protección de las Personas Menores de Edad en los Entornos Digitales, que contempla sanciones específicas por el uso de inteligencia artificial con fines que atenten contra la integridad moral de los menores. Rego destacó que “la autorregulación de los entornos digitales no ha funcionado, por lo que la legislación se hace imprescindible. Las grandes plataformas van a garantizar por ley los derechos de niños, niñas y adolescentes en internet”.
