xAI, la compañía de inteligencia artificial fundada por Elon Musk, ha implementado nuevas restricciones en su chatbot Grok tras recibir críticas globales por la generación de contenido sexual no consentido. Estas medidas buscan abordar la controversia surgida por la capacidad del chatbot para editar y crear imágenes sexualizadas de personas reales.
La empresa anunció que las nuevas limitaciones se aplican a todos los usuarios, incluidos aquellos que pagan por el servicio. En un comunicado publicado en la red social X, xAI indicó: “Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago”.
La decisión de xAI se produce en medio de un intenso escrutinio sobre el uso de su tecnología, que había permitido la creación de imágenes hiperrealistas de mujeres en bikinis y en poses degradantes, algunas de las cuales incluían signos de violencia. Durante el último mes, estas imágenes se difundieron ampliamente en redes sociales, generando preocupación por la falta de consentimiento de las personas representadas, incluidas algunas menores.
A pesar de las nuevas restricciones, medios especializados como The Verge han cuestionado la efectividad de las medidas. En pruebas realizadas, se descubrió que Grok aún puede generar contenido sexual, incluso con una cuenta gratuita de X, lo que sugiere que las limitaciones no son suficientes para frenar el uso indebido de la plataforma.
Inicialmente, xAI había restringido la función de creación de contenido sexual solo a los suscriptores de pago, pero el chatbot continuó produciendo imágenes no consentidas para este grupo. En respuesta a la creciente presión, la compañía ha afirmado que considerará la ubicación de los usuarios y las legislaciones nacionales donde esta actividad sea ilegal, aunque no ha proporcionado detalles sobre cómo se implementarán estas jurisdicciones.
Las críticas hacia Grok han llevado a acciones a nivel internacional, con solicitudes para que gigantes tecnológicos como Apple y Google eliminen el chatbot de sus tiendas. Además, países como Indonesia han bloqueado temporalmente el acceso a la herramienta, reflejando la preocupación global por el contenido generado por inteligencia artificial y su impacto en la privacidad y el consentimiento.
