L'Indonésie reprend l'utilisation de Grok avec des restrictions de surveillance

L'Indonésie rétablit l'accès à Grok, un chatbot d'intelligence artificielle, après la suspension du service pour avoir généré des images de deepfake sexualisées, y compris d'enfants. Le ministère de la Communication et des Affaires numériques du pays a indiqué, par le biais d'un communiqué, que l'entreprise X pourra reprendre ses opérations, mais sera soumise à un suivi rigoureux afin d'éviter de nouvelles infractions.

Le ministère a déclaré que l'entreprise X avait présenté un document avec des mesures pour prévenir les abus de son chatbot. Alexander Sabar, directeur général de la supervision de l'espace numérique du ministère, a affirmé que l'organisme effectuera des tests continus pour évaluer l'efficacité de ces mesures, avec la possibilité de révoquer l'autorisation en cas de violations de la législation, notamment en ce qui concerne la protection des enfants.

La première interdiction a eu lieu cette année, lorsque l'Indonésie, avec la Malaisie et les Philippines, a suspendu le chatbot après des découvertes selon lesquelles il produisait des images sexuellement explicites sans consentement, en réponse à des demandes d'utilisateurs. L'interdiction des Philippines a ensuite été levée, et la Malaisie a suivi quelques jours plus tard, s'engageant également à surveiller la plateforme et à appliquer des sanctions en cas de récidive.

En plus des interdictions dans les pays asiatiques, Grok fait également l'objet d'enquêtes de la part du procureur général de Californie et du régulateur des médias du Royaume-Uni en raison de problématiques similaires liées à la génération de contenu inapproprié.

Avec cette réouverture, une préoccupation croissante se manifeste autour de la réglementation de l'IA, en particulier en ce qui concerne la sécurité des enfants et la vie privée. Les actions futures des développeurs seront cruciales pour garantir un usage responsable de la technologie.