Grok cria milhões de imagens sexualizadas em ferramenta de IA

Grok gera 3 milhões de imagens sexualizadas em nova função

O chatbot Grok, desenvolvido pela xAI de Elon Musk, produziu aproximadamente três milhões de imagens sexualizadas de mulheres e menores em apenas dias. A investigação, divulgada nesta quinta-feira (22), revela a extensão do conteúdo impróprio gerado, o que gerou indignação global.

Integrado à rede social X, o Grok permitiu a usuários modificar fotos reais com comandos simples como “vista-a com um biquíni” ou “tire a roupa dela”. O resultado foi uma onda de imagens falsas hiper-realistas, conhecidas como deepfakes, levando diversos países a proibir o uso da ferramenta e provocando reações de órgãos reguladores e vítimas.

Impacto e repercussão das imagens geradas

Segundo o Centro de Combate ao Ódio Digital, a ferramenta de IA gerou cerca de 23 mil imagens que aparentam representar menores. Este volume foi alcançado em um curto período de 11 dias, resultando em uma média de 190 imagens por minuto. As informações detalham que muitas dessas obras foram criadas sem o consentimento das pessoas retratadas.

“Os dados são claros: o Grok de Elon Musk é uma fábrica para a produção de material de abuso sexual”, afirmou Imran Ahmed, diretor-executivo do Centro de Combate ao Ódio Digital. Celebridades como Selena Gomez, Taylor Swift, Nicki Minaj e figuras políticas como a ex-vice-presidente dos EUA, Kamala Harris, também aparecem entre as vítimas das imagens sexualizadas.

Respostas e ações legais

Até o momento, a rede social X não fez comentários sobre as conclusões da investigação. A xAI, quando contatada pela AFP, apenas enviou uma mensagem automatizada caracterizando as informações como “mentiras da mídia tradicional”. Na semana anterior, X anunciou que iria bloquear a capacidade de criar esse tipo de conteúdo, em conformidade com a legislação vigente.

Países como Filipinas, Malásia e Indonésia já proibiram a utilização da ferramenta Grok. Além disso, inquéritos estão em andamento em diversas jurisdições, incluindo um pela procuradoria da Califórnia, em resposta ao material sexualmente explícito gerado pela xAI.

Implicações futuras da IA Grok

A crescente popularidade de ferramentas de IA, como o Grok, levanta questões importantes sobre ética e responsabilidade na tecnologia. O futuro da regulação desse tipo de conteúdo e a proteção dos indivíduos contra abusos se tornam essenciais à medida que a tecnologia avança. A resposta das legislações e a consciência pública poderão moldar o uso desses sistemas no futuro.