Grok crea millones de imágenes sexualizadas en herramienta de IA

Grok genera 3 millones de imágenes sexualizadas en nueva función

El chatbot Grok, desarrollado por xAI de Elon Musk, produjo aproximadamente tres millones de imágenes sexualizadas de mujeres y menores en solo días. La investigación, publicada este jueves (22), revela la extensión del contenido inapropiado generado, lo que ha causado indignación global.

Integrado a la red social X, el Grok permitió a usuarios modificar fotos reales con comandos simples como "vístela con un bikini" o "quítale la ropa". El resultado fue una ola de imágenes falsas hiperrealistas, conocidas como deepfakes, llevando a varios países a prohibir el uso de la herramienta y provocando reacciones de organismos reguladores y víctimas.

Impacto y repercusión de las imágenes generadas

Según el Centro de Combate al Odio Digital, la herramienta de IA generó alrededor de 23 mil imágenes que aparentan representar menores. Este volumen se logró en un corto periodo de 11 días, resultando en un promedio de 190 imágenes por minuto. Las informaciones detallan que muchas de estas obras fueron creadas sin el consentimiento de las personas retratadas.

"Los datos son claros: el Grok de Elon Musk es una fábrica para la producción de material de abuso sexual", afirmó Imran Ahmed, director ejecutivo del Centro de Combate al Odio Digital. Celebridades como Selena Gomez, Taylor Swift, Nicki Minaj y figuras políticas como la exvicepresidenta de EE. UU., Kamala Harris, también aparecen entre las víctimas de las imágenes sexualizadas.

Respuestas y acciones legales

Hasta el momento, la red social X no ha hecho comentarios sobre las conclusiones de la investigación. xAI, cuando fue contactada por AFP, solo envió un mensaje automatizado caracterizando la información como "mentiras de los medios tradicionales". La semana anterior, X anunció que bloquearía la capacidad de crear este tipo de contenido, en conformidad con la legislación vigente.

Países como Filipinas, Malasia e Indonesia ya han prohibido el uso de la herramienta Grok. Además, se están llevando a cabo investigaciones en diversas jurisdicciones, incluyendo una por parte de la fiscalía de California, en respuesta al material sexualmente explícito generado por xAI.

Implicaciones futuras de la IA Grok

La creciente popularidad de herramientas de IA, como el Grok, plantea cuestiones importantes sobre ética y responsabilidad en la tecnología. El futuro de la regulación de este tipo de contenido y la protección de los individuos contra abusos se vuelve esencial a medida que la tecnología avanza. La respuesta de las legislaciones y la conciencia pública podrán moldear el uso de estos sistemas en el futuro.