Google corrige une faille critique qui fuyait des données de calendrier

Google a corrigé une vulnérabilité critique dans son intelligence artificielle, Gemini, qui permettait l'accès non autorisé à des informations confidentielles de Google Calendar. Cette faille, découverte par des chercheurs en sécurité, utilisait des invitations normales pour dissimuler des instructions pouvant être exécutées par l'IA.

La vulnérabilité exploitait la manière dont Gemini interagit avec les événements du calendrier, car il lit ces données pour répondre aux questions des utilisateurs, telles que "Quel est mon emploi du temps aujourd'hui ?" Contrairement aux failles typiques qui dépendent de codes malveillants, celle-ci permettait des permissions via un langage courant.

Fonctionnement de la vulnérabilité

Les chercheurs ont examiné l'intégration entre Gemini et Google Calendar après avoir remarqué que l'IA avait accès sans restriction aux informations des événements. Cette intégration pouvait être manipulée par des attaquants avec une approche simple.

L'attaque se déroulait en trois étapes. Tout d'abord, un criminel créait un événement normal et envoyait une invitation à la victime. Ensuite, dans le champ de description de l'événement, il dissimulait une commande que l'IA exécuterait en répondant aux questions sur l'agenda de la victime.

La commande déguisée permettait l'exécution d'actions telles que résumer des réunions et créer de nouveaux événements, utilisant la capacité de Gemini à agir sur commande.

Fuite silencieuse de données

Pour la victime, le système semblait fonctionner normalement en répondant qu'il "s'agit d'un horaire libre", mais l'IA, en coulisse, réalisait des actions sans consentement. Elle résumait des réunions privées, y compris des engagements sensibles, et créait un nouvel événement qui pouvait être visualisé par l'attaquant.

Ainsi, des informations confidentielles pouvaient être accessibles sans que l'utilisateur perçoive aucun problème, ce qui représente un sérieux risque, notamment dans les environnements d'entreprise.

Un nouveau défi de sécurité

Ce type d'attaque met en lumière un nouveau défi pour la cybersécurité. Alors que les applications traditionnelles cherchent à bloquer des modèles malveillants évidents, les vulnérabilités dans les systèmes de Modèles de Langage de Grande Échelle (LLMs) sont plus subtiles et souvent imperceptibles.

La complexité réside dans le fait que des commandes nuisibles peuvent sembler légitimes, rendant leur identification et atténuation difficiles sans affecter l'utilisation normale du système.

Impact potentiel

Avec l'augmentation de l'utilisation des assistants IA dans les outils d'entreprise, cette vulnérabilité pourrait devenir plus courante. Une attaque réussie pourrait compromettre des calendriers entiers, exposant des informations sensibles.

Des experts avertissent qu'une telle exploitation pourrait mettre en péril des données critiques d'entreprises, comme des plans stratégiques et des informations personnelles d'employés, le tout à partir d'une simple invitation de calendrier.

Correction rapide par Google

Google a déjà mis en œuvre des corrections pour la faille, après avoir confirmé les découvertes des chercheurs. L'entreprise a effectué un audit rigoureux et n'a pas trouvé de preuves d'une exploitation supplémentaire de la vulnérabilité par d'autres acteurs.

Bien que des protections supplémentaires aient été mises en place, Google a choisi de ne pas divulguer de détails techniques spécifiques pour éviter de nouvelles tentatives d'exploitation.

Pour plus de nouvelles sur la technologie et la sécurité, suivez les canaux officiels de Google et abonnez-vous à des plateformes spécialisées.