Une nouvelle enquête a révélé que certaines extensions de navigateur se faisant passer pour des assistants IA utiles collectaient discrètement les conversations des utilisateurs avec les grands modèles de langage.
Des chercheurs de la Microsoft Defender Security Research Team affirment que des extensions de navigateur malveillantes conçues pour ressembler à de véritables outils d’assistant IA ont recueilli d’importantes quantités de données utilisateur lors d’interactions avec des plateformes d’IA populaires.
Selon le blog consacré à la sécurité de l’entreprise, la campagne a déjà atteint environ 900 000 installations sur des navigateurs basés sur Chrome.
La télémétrie des systèmes de sécurité de Microsoft montre également que l’activité touche des environnements d’entreprise. L’entreprise a indiqué avoir détecté une activité liée « dans plus de 20 000 environnements clients d’entreprise, où les utilisateurs interagissent fréquemment avec des outils d’IA en utilisant des données sensibles ».
Ce qui était réellement volé
Les modules complémentaires malveillants ciblaient les conversations avec des services d’IA tels que ChatGPT et DeepSeek.
Une fois installées, les extensions pouvaient enregistrer l’activité de navigation ainsi que des parties des conversations des utilisateurs avec l’IA. Microsoft a précisé que les informations capturées comprenaient les requêtes et les réponses des conversations, ainsi que les URL complètes des pages consultées.
Selon Microsoft, la collecte de données exposait les organisations au risque de fuite d’informations sensibles. L’entreprise a averti que les extensions recueillaient des contenus susceptibles d’inclure « du code propriétaire, des flux de travail internes, des discussions stratégiques et d’autres données confidentielles ».
Comment fonctionne l’attaque
L’attaque commence par l’exploitation d’une tendance en plein essor : les extensions de navigateur qui ajoutent des assistants de conversation IA sur le côté d’une page web.
Les acteurs malveillants ont étudié des outils légitimes afin d’en imiter la marque et le comportement. Les versions malveillantes ont ensuite été publiées sur le Chrome Web Store sous des noms et avec des descriptions ressemblant étroitement à ceux de véritables outils de productivité. Comme des navigateurs tels que Google Chrome et Microsoft Edge partagent l’architecture Chromium, une seule fiche d’extension pouvait se propager sur les deux plateformes.
Une fois installée, l’extension a commencé à surveiller furtivement l’activité des utilisateurs. Le code enregistrait les sites web consultés et des segments de messages de conversation générés lors des interactions avec des plateformes d’IA. Microsoft a expliqué que l’extension fonctionnait essentiellement comme un collecteur de données en arrière-plan dans le navigateur.
Les données collectées étaient stockées localement, puis envoyées périodiquement à des serveurs contrôlés par les attaquants. L’analyse de Microsoft a révélé que l’extension transmettait les informations via des requêtes HTTPS vers des domaines tels que deepaichats[.]com et chatsaigpt[.]com.
Comme les communications utilisaient des protocoles web courants, le trafic pouvait ressembler à une activité normale du navigateur. Le rapport indique que l’objectif de l’extension était une surveillance à long terme plutôt qu’une perturbation immédiate.
La persistance grâce au fonctionnement normal du navigateur
Contrairement à de nombreuses formes de logiciels malveillants, l’extension n’avait pas besoin de techniques de persistance avancées. Une fois installée, elle se comportait comme une extension de navigateur standard et se rechargeait automatiquement à chaque démarrage du navigateur.
Le stockage local conservait les identifiants de session et les données en attente d’envoi, permettant à l’extension de continuer à recueillir des informations d’une session à l’autre. Ces résultats mettent en évidence un défi croissant en matière de sécurité lié à l’adoption rapide des outils d’IA.
Les employés copient souvent du code, des notes internes ou des informations commerciales dans des services de conversation IA, ce qui fait de ces conversations des cibles de choix pour les attaquants. Lorsqu’une extension malveillante peut lire le contenu d’une page web, elle peut également capturer directement ce texte depuis l’interface du navigateur.
Cela signifie que les informations sensibles partagées avec des outils d’IA peuvent être exposées sans que les utilisateurs s’en rendent compte.
Les mesures à prendre par les organisations
Les équipes de sécurité sont invitées à examiner les extensions de navigateur installées sur les appareils de l’entreprise et à supprimer celles qui ne sont pas vérifiées ou qui sont inutiles.
Les chercheurs de Microsoft recommandent plusieurs mesures défensives, notamment :
- Auditer toutes les extensions de navigateur dans l’organisation.
- Restreindre l’installation d’extensions au moyen de stratégies d’entreprise.
- Surveiller le trafic réseau à la recherche de connexions vers des domaines malveillants connus.
- Activer les protections du navigateur, telles que SmartScreen et le filtrage réseau.
- Sensibiliser les employés aux risques liés à l’installation d’outils d’IA non vérifiés.
Les organisations devraient également mettre en place des règles encadrant le partage de données sensibles avec les plateformes d’IA.À lire aussi : Une autre menace pour la sécurité liée à l’IA dans les navigateurs a été découverte dans de fausses extensions IA Chrome ciblant Gmail.