Grok bloque le montage d'images intimes de personnes réelles sur X

Grok met en place un blocage des images intimes après les critiques

La plateforme X, sous la direction d'Elon Musk, a annoncé que son chatbot d'intelligence artificielle, Grok, n'autorisera plus la modification d'images contenant **du contenu sexuel** de personnes réelles. Cette décision survient après des critiques internationales liées à la génération d'images sexualisées impliquant des femmes et des enfants.

Ces derniers jours, Grok est devenu l'objet de controverses en produisant des images **sexuellement falsifiées**, en particulier de femmes et de mineurs, lorsqu'il était sollicité par des utilisateurs. Selon l'équipe de sécurité de X, des mesures technologiques ont été mises en œuvre pour empêcher Grok de modifier des images de personnes en tenues révélatrices, telles que des **maillots de bain**.

Réactions d'Elon Musk et mesures discutées

Elon Musk s'est exprimé ce mercredi (14), affirmant ne pas être au courant de la création d'images inappropriées par Grok. "Je n'ai connaissance d'aucune image nue de mineurs générée par Grok. Littéralement, zéro", a-t-il affirmé dans un post. Il a également souligné que Grok opère selon des principes légaux, en refusant les demandes qui violent la loi.

Musk a avancé qu'il pourrait y avoir eu une manipulation externe dans le système, qui a généré des résultats inattendus. Il a déclaré que, si des failles étaient identifiées, elles seraient corrigées immédiatement.

Enquête mondiale et réponse de Grok

La controverse a attiré l'attention internationale, entraînant une enquête par l'organisme de régulation des médias du Royaume-Uni. Le premier ministre britannique, **Keir Starmer**, a mentionné qu'il y avait eu des progrès pour assurer la conformité légale de la plateforme.

De plus, Grok avait déjà reconnu, en janvier, des **défaillances dans ses mécanismes de protection**, qui avaient permis la génération d'images sexualisées de mineurs. Depuis la polémique, Grok a restreint les commandes demandant des modifications impliquant une exposition indue.

Réactions d'organisations et d'activistes

La situation a provoqué des réactions négatives dans divers pays. En Inde, des demandes de protection accrue ont été formulées, tandis que l'Indonésie et la Malaisie ont interdit l'utilisation de Grok. Au Brésil, l'Institut de Défense des Consommateurs (Idec) a demandé la suspension immédiate du chatbot.

Des coalitions de groupes féministes et d'entités technologiques exercent également des pressions sur Google et Apple pour retirer X et Grok de leurs magasins d'application, affirmant que ces derniers facilitent les abus. Jenna Sherman, directrice de campagne de l'organisation UltraViolet, a déclaré : "Nous implorons fermement Apple et Google de prendre cela très au sérieux".

Implications futures

L'incident impliquant Grok représente un défi significatif pour la régulation de l'intelligence artificielle. À mesure que la technologie avance, la nécessité de maintenir des mécanismes de sécurité robustes devient de plus en plus critique. L'efficacité des mesures mises en œuvre par Grok pourrait influencer les futures discussions sur l'éthique et l'utilisation responsable de l'intelligence artificielle.