Grok crée des millions d'images sexualisées avec un outil d'IA

Grok génère 3 millions d'images sexualisées dans une nouvelle fonctionnalité

Le chatbot Grok, développé par xAI de Elon Musk, a produit environ trois millions d'images sexualisées de femmes et de mineurs en seulement quelques jours. L'enquête, publiée ce jeudi (22), révèle l'étendue du contenu inapproprié généré, provoquant une indignation mondiale.

Intégré au réseau social X, Grok a permis aux utilisateurs de modifier des photos réelles avec des commandes simples telles que « habillez-la en bikini » ou « retirez ses vêtements ». Le résultat a été une vague d'images fausses hyper-réalistes, connues sous le nom de deepfakes, incitant plusieurs pays à interdire l'utilisation de l'outil et provoquant des réactions d'organismes de régulation et de victimes.

Impact et répercussions des images générées

Selon le Centre de Lutte contre la Haine Numérique, l'outil d'IA a généré environ 23 000 images qui semblent représenter des mineurs. Ce volume a été atteint en une courte période de 11 jours, entraînant une moyenne de 190 images par minute. Les informations détaillent que beaucoup de ces œuvres ont été créées sans le consentement des personnes représentées.

« Les données sont claires : le Grok d'Elon Musk est une fabrique de production de matériel d'abus sexuel », a déclaré Imran Ahmed, directeur général du Centre de Lutte contre la Haine Numérique. Des célébrités telles que Selena Gomez, Taylor Swift, Nicki Minaj et des figures politiques comme l'ancienne vice-présidente des États-Unis, Kamala Harris, apparaissent également parmi les victimes des images sexualisées.

Réponses et actions légales

Jusqu'à présent, le réseau social X n'a pas commenté les conclusions de l'enquête. xAI, lorsqu'il a été contacté par l'AFP, a simplement envoyé un message automatisé qualifiant les informations de « mensonges des médias traditionnels ». La semaine précédente, X a annoncé qu'il allait bloquer la capacité de créer ce type de contenu, conformément à la législation en vigueur.

Des pays comme les Philippines, la Malaisie et l'Indonésie ont déjà interdit l'utilisation de l'outil Grok. De plus, des enquêtes sont en cours dans diverses juridictions, y compris une par le bureau du procureur de Californie, en réponse au matériel sexuellement explicite généré par xAI.

Implications futures de l'IA Grok

La popularité croissante des outils d'IA, comme Grok, soulève d'importantes questions d'éthique et de responsabilité dans la technologie. L'avenir de la régulation de ce type de contenu et la protection des individus contre les abus deviennent essentiels à mesure que la technologie progresse. La réponse des législations et la prise de conscience publique pourraient façonner l'utilisation de ces systèmes à l'avenir.