Grok bloqueia edição de imagens íntimas de pessoas reais no X

Grok implementa bloqueio em imagens íntimas após críticas

A plataforma X, sob a direção de Elon Musk, anunciou que seu chatbot de inteligência artificial, Grok, não permitirá mais a edição de imagens contendo conteúdo sexual de pessoas reais. Essa decisão surge após críticas internacionais relacionadas à geração de imagens sexualizadas envolvendo mulheres e crianças.

Nos últimos dias, o Grok se tornou objeto de polêmicas ao produzir imagens falsas sexualizadas, particularmente de mulheres e menores de idade, quando solicitado por usuários. Segundo a equipe de segurança do X, foram implementadas medidas tecnológicas para impedir que o Grok edite imagens de pessoas em roupas reveladoras, como biquínis.

Reações de Elon Musk e medidas discutidas

Elon Musk se manifestou nesta quarta-feira (14), afirmando não estar ciente da criação de imagens impróprias pelo Grok. "Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero", afirmou ele em um post. Ele também ressaltou que o Grok opera segundo os princípios legais, negando solicitações que violem a lei.

Musk adiantou que pode ter ocorrido manipulação externa no sistema, que gerou resultados inesperados. Ele afirmou que, se identificadas falhas, estas seriam corrigidas imediatamente.

Investigação global e a resposta do Grok

A controvérsia levantou a atenção internacional, resultando em uma investigação pelo órgão regulador de mídia do Reino Unido. O primeiro-ministro britânico, Keir Starmer, mencionou que houve progresso em assegurar a conformidade legal da plataforma.

Além disso, o Grok já havia reconhecido, em janeiro, falhas em seus mecanismos de proteção, que permitiram a geração de imagens sexualizadas de menores. Desde a polêmica, o Grok restringiu comandos que solicitam alterações que envolvam exposição indevida.

Reação de organizações e ativistas

A situação provocou reações adversas em diversos países. Na Índia, exigências por mais proteção foram levantadas, enquanto Indonésia e Malásia baniram o uso do Grok. No Brasil, o Instituto de Defesa do Consumidor (Idec) solicitou a suspensão imediata do chatbot.

Coalizões de grupos feministas e entidades tecnológicas também pressionam Google e Apple a remover o X e o Grok de suas lojas de aplicativos, alegando que estes viabilizam abusos. Jenna Sherman, diretora de campanha da organização UltraViolet, afirmou: "Estamos implorando veementemente à Apple e ao Google que levem isso extremamente a sério".

Implicações futuras

O incidente envolvendo o Grok representa um desafio significativo para a regulamentação da inteligência artificial. À medida que a tecnologia avança, a necessidade de manter mecanismos de segurança robustos torna-se cada vez mais crítica. A eficácia das medidas implementadas pelo Grok poderá influenciar futuras discussões sobre a ética e o uso responsável da inteligência artificial.