Indonésia retoma uso do Grok com restrições de monitoramento

A Indonésia reinstaura o acesso ao Grok, um chatbot de inteligência artificial (IA), após a suspensão do serviço por gerar imagens de deepfake sexualizadas, incluindo de crianças. O Ministério da Comunicação e Assuntos Digitais do país informou, por meio de um comunicado, que a empresa X poderá retomar a operação, mas estará sujeita a monitoramento rigoroso para evitar novas infrações.

O órgão governamental afirmou que a empresa X apresentou um documento com medidas para prevenir abusos de seu chatbot. Alexander Sabar, diretor geral de supervisão do espaço digital do ministério, declarou que o órgão realizará testes contínuos para avaliar a eficácia destas medidas, com a possibilidade de reverter a autorização caso sejam identificadas violações à legislação, especialmente referente à proteção infantil.

A proibição inicial ocorreu este ano, quando a Indonésia, junto com Malásia e Filipinas, suspendeu o chatbot após descobertas de que ele produzia imagens sexualmente explícitas sem consentimento, em resposta a solicitações de usuários. A proibição das Filipinas foi levantada posteriormente, e a Malásia seguiu o mesmo caminho poucos dias depois, também comprometendo-se a monitorar a plataforma e aplicar sanções se houver reincidência.

Além das proibições em países asiáticos, Grok também enfrenta investigações por parte do procurador-geral da Califórnia e do regulador de mídia do Reino Unido, devido a questões semelhantes relacionadas à geração de conteúdo inadequado.

Com essa reabertura, observa-se uma crescente preocupação em torno da regulamentação de IA, especialmente no que diz respeito à segurança infantil e à privacidade. As ações futuras dos desenvolvedores serão cruciais para garantir um uso responsável da tecnologia.