L'intelligence artificielle de Google, connue sous le nom de GEMINIa révolutionné la gestion des e-mails dans Gmail en proposant des résumés automatiques des longs messages, simplifiant ainsi la lecture et le traitement de l'information. Cependant, cette avancée a également ouvert la voie à nouvelles menaces de cybersécurité, car une méthode sophistiquée a été détectée qui permet aux attaquants de profiter de leur capacité à interpréter les instructions cachées dans les e-mails, ce qui a suscité l'alarme parmi les experts et les utilisateurs.
La fonctionnalité de résumé de Gemini, initialement implémentée pour les appareils mobiles et désormais étendue à la version Web de Gmail, apparaît lorsque les fils de messages sont particulièrement longs. L'outil crée des fiches récapitulatives automatiques qui permettent de consulter rapidement l'intégralité de la conversation. Mais derrière cette fonctionnalité se cache une faille qui, jusqu'à récemment, pouvait être exploitée par des cybercriminels pour générer des messages frauduleux semblant provenir de l'IA de Google.
La technique d'injection d'instructions cachées
Les chercheurs en cybersécurité ont documenté comment la soi-disant « injection rapide » permet aux attaquants de camoufler les commandes dirigées vers Gemini en utilisant HTML et CSSPlus précisément, les messages sont intégrés dans le corps de l'e-mail en utilisant du texte blanc sur fond blanc, ou en réduisant la taille de la police à zéro, afin qu'ils soient complètement invisible pour le destinataire mais analysé par l'intelligence artificielle. Ce texte caché devient un commande que Gemini exécute lors de la génération du résumé, modifiant son contenu sans que l'utilisateur ne s'en aperçoive.
Il en résulte des messages apparemment générés par l'IA elle-même, tels que de fausses alertes de sécurité ou des demandes d'appel à des numéros d'assistance frauduleux. Le danger de cette attaque réside dans le fait que ne nécessite aucune pièce jointe ni aucun lien suspect, deux des indicateurs classiques des tentatives de phishing, ce qui rend leur détection extrêmement difficile pour les utilisateurs et les filtres Gmail.
Impact, propagation et appareils affectés
La vulnérabilité a principalement touché Utilisateurs de Google Workspace (Versions Business et Enterprise, ainsi que comptes Gemini Education) et également aux utilisateurs des services intelligents de Gmail. Cette technique, identifiée et signalée par des entreprises comme Odin et Mozilla, aurait pu avoir un impact plus important, puisque d'autres applications Workspace, comme Docs ou Drive Ils disposent également de fonctions basées sur l’intelligence artificielle.
Les experts en cybersécurité soulignent l'ampleur considérable de cette attaque : il suffit à un utilisateur de demander le résumé d'un e-mail « normal » pour que, s'il contient des instructions cachées, les messages générés par Gemini sur ordre de l'attaquant s'affichent. Parmi les exemples observés, on trouve des avertissements trompeurs concernant des mots de passe compromis et des simulations d'incidents de sécurité avec de faux numéros de téléphone d'assistance, tous conçus pour voler des données personnelles ou des informations d'identification.
Réponse de Google et mesures prises
Suite à l’annonce publique de la décision, Google a reconnu le problème et a implémenté des mises à jour de sécurité pour son modèle Gemini, renforçant ainsi ses défenses contre les instructions cachées. Selon un porte-parole de l'entreprise : « Nous renforçons constamment nos défenses grâce à des exercices de red-teaming et à de bonnes pratiques pour nos modèles d'IA. » De plus, dans la version 1.5.4 de Gemini, publiée début juillet 2025, une patch final qui bloque le principal vecteur d'attaqueLe groupe de renseignement sur les menaces de Google a insisté sur le fait que les tentatives d'exploitation détectées étaient basiques et ont été bloquées par ses systèmes.
Il est essentiel que les utilisateurs suivent les meilleures pratiques, telles que nettoyer le HTML Avant d'interpréter les messages, et de ne pas se fier aveuglément aux résumés automatisés, surtout lorsqu'ils demandent des actions urgentes ou inhabituelles. L'entreprise recommande également de mettre en place des filtres et des contrôles pour détecter les styles « anormaux » dans les e-mails, comme du texte invisible ou des polices trop petites.
Recommandations de sécurité et bonnes pratiques
Les experts conseillent de prendre plusieurs mesures pour se protéger contre les tentatives de phishing basées sur l’IA :
- Ne vous fiez pas aux alertes de sécurité ou aux invites générées automatiquement par Gemini., surtout s'ils incluent des numéros de téléphone ou des demandes de changement de mot de passe.
- Sélectionner tout le texte de l'e-mail (Ctrl+A) et vérifiez le contenu caché avant de demander un résumé.
- Mettez à jour vos mots de passe régulièrement et activez la vérification en deux étapes dans Gmail et d'autres services Google.
- Évitez de partager des informations personnelles ou des informations d’identification par téléphone ou par e-mail, même si la demande semble provenir de Google.
- Utilisez des filtres anti-hameçonnage et maintenez votre logiciel de sécurité à jour. sur tous les appareils.
Il est recommandé de vérifier les alertes de sécurité sur le site Web officiel de Google et de se méfier des conseils fournis par les résumés automatisés générés par l'IA.
L'intégration de Gemini dans Gmail illustre les avantages et les risques liés à l'adoption de l'intelligence artificielle dans les outils du quotidien. L'intervention rapide de Google a atténué l'impact de cette vulnérabilité, mais souligne l'évolution constante de la sécurité. méthodes de cyberattaque et l’importance du suivi et des bonnes pratiques dans l’utilisation de la technologie.