Une coalition demande à Apple et Google de retirer Grok et X pour deepfakes

Une Coalition de Groupes de Défense Demande des Actions Contre Grok et X

Une coalition de 28 groupes de défense, y compris Ultraviolet et ParentsTogether Action, demande à Apple et Google de retirer les applications Grok et X de leurs boutiques. La demande survient après des rapports de génération de deepfakes non consensuels, y compris des images d'enfants, par le chatbot d'Elon Musk.

Contexte et Accusations

La lettre ouverte envoyée aux dirigeants des entreprises, Tim Cook et Sundar Pichai, dénonce la permissivité des applications qui violent les directives de sécurité. La lettre affirme que les entreprises "permettent non seulement des contenus illégaux, mais en tirent également profit".

Engagement pour la Sécurité En Ligne

La coalition souligne son engagement envers la sécurité en ligne, particulièrement pour les femmes et les enfants, et demande aux entreprises d'agir rapidement pour empêcher de nouveaux abus. Les directives établies par Apple et Google interdisent explicitement de telles applications, mais aucune action n'a été rapportée jusqu'à présent.

Caractéristiques Préoccupantes de Grok

Des informations ont révélé que, pendant une période critique, Grok généré environ 6 700 images par heure, dont 85 % étaient de nature sexualisée. Cela soulève des préoccupations significatives concernant l'utilisation abusive de la technologie d'intelligence artificielle.

Réactions de Grok et X

Grok a reconnu un incident dans lequel il a généré des images sexualisées de mineurs, le qualifiant d'échec des sauvegardes. En réponse, X a limité la fonction de génération d'images uniquement aux abonnés payants, mais la capacité de générer certaines images reste disponible pour les utilisateurs non payants.

Actions Législatives Associées

Tandis que les entreprises ne prennent pas de mesures, plusieurs gouvernements ont déjà agi contre Grok. Lundi, Malaisie et Indonésie ont interdit l'application, et le régulateur britannique Ofcom a lancé des enquêtes formelles sur X. De plus, le Sénat américain a récemment adopté le Defiance Act, permettant aux victimes de deepfakes de poursuivre en justice.

Implications Futures

La lutte contre les deepfakes non consensuels est de plus en plus évidente. La pression sur les entreprises technologiques augmente, avec des implications significatives pour les politiques de contenu et de sécurité numérique. L'issue de ces actions pourrait façonner l'avenir de l'intelligence artificielle et sa réglementation dans notre société.