Quand une simple invitation Google Agenda déclenche une fuite de données via Gemini
Une équipe de chercheurs a démontré qu’un texte inséré dans une invitation Google Agenda pouvait induire en erreur l’assistant Gemini, entraînant une fuite d’informations privées sans action volontaire de l’utilisateur.
Avec les assistants IA, une phrase poliment formulée peut désormais devenir un vecteur de cyberattaques... Des chercheurs en sécurité applicative de l’éditeur Miggo ont par exemple récemment démontré qu’il était possible d’exploiter l’intégration de Gemini avec Google Agenda, dans le but de contourner des contrôles de confidentialité.
L’attaque en question consistait à envoyer à la victime une invitation à un événement contenant, dans le champ de description, une instruction rédigée en langage naturel. Ce message, conçu pour paraître anodin, était en réalité interprété par Gemini comme une commande à exécuter. L’instruction restait inactive jusqu’à ce que l’utilisateur pose une question courante à l’assistant, par exemple: «Suis-je libre samedi?». À ce moment-là, Gemini analysait les événements du jour et traitait également le message malveillant, croyant répondre à une demande légitime. Il résumait alors les réunions privées de l’utilisateur et créait un nouvel événement contenant ces informations, que l’attaquant pouvait consulter.
Dans leur article, les chercheurs précisent avoir signalé cette faille à Google, qui a confirmé leur analyse et appliqué un correctif. Mais l'incident illustre efficacement un type de vulnérabilité propre aux systèmes basés sur les modèles de langage: les instructions ne sont plus codées de manière explicite, mais dissimulées dans des formulations linguistiques apparemment inoffensives.
Selon les chercheurs, ce cas montre que les protections classiques sont insuffisantes face aux applications pilotées par l’IA. La sécurité doit désormais intégrer l’analyse du contexte, du sens et des capacités d’action des modèles.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
