L’autorité espagnole chargée de la protection des données a reçu sa première notification de fuite de données personnelles dans laquelle l’organisation concernée affirme qu’un agent IA a exécuté l’intrusion. L’AEPD indique que le récit de l’organisation doit encore être analysé.
La notification n’identifie ni l’organisation, ni son secteur d’activité, ni le nombre de personnes concernées, ni le grand modèle de langage impliqué. L’AEPD s’appuie sur ce signalement pour réclamer des contrôles de sécurité capables de réagir à la vitesse des machines, plutôt que de reposer sur des procédures conçues autour d’un attaquant humain.
Selon l’AEPD, les agents IA peuvent raccourcir la durée des attaques
Dans un article de blog publié le 14 septembre par l’AEPD, le directeur adjoint Francisco Pérez Bes a indiqué que l’organisation ayant effectué le signalement avait décrit un agent qui recherchait des vulnérabilités dans des fichiers génériques, se connectait à des systèmes internes, cherchait d’autres faiblesses dans une application, modifiait des données personnelles et accédait à des factures.
L’AEPD s’est montrée prudente quant à ce que ce récit permet d’établir. RTVE/EFE a rapporté que le régulateur avait déclaré que les informations disponibles provenaient de la notification de l’organisation concernée et devaient être analysées avant d’en tirer des conclusions. BleepingComputer a également rapporté que l’AEPD n’avait pas encore enquêté sur l’incident ni vérifié les informations.
Le régulateur a également déclaré que l’utilisation d’un modèle d’IA particulier ne signifierait pas que le modèle, l’infrastructure de son fournisseur ou le fournisseur lui-même avaient été compromis ou conçus pour mener des activités malveillantes.
La préoccupation de l’AEPD concerne la vitesse d’une attaque menée par un agent. L’agence a indiqué que l’IA ne créait pas de menaces fondamentalement nouvelles, mais qu’elle pouvait accroître la vitesse, l’ampleur et l’adaptabilité de techniques connues. Un agent disposant d’un compte compromis, d’une clé d’API ou d’un jeton trop permissif pourrait tester plusieurs voies et passer d’un service à l’autre avant que les défenseurs ne réagissent.
L’agence recommande d’inclure explicitement les attaques assistées ou exécutées par une IA dans les évaluations des risques, d’examiner les temps de réponse, de protéger les identités et les identifiants numériques, et d’associer la supervision humaine à une détection et un confinement plus rapides.
Son rapport annuel 2025 fournit aux équipes de sécurité une référence concrète. Cette année-là, l’AEPD a reçu 2 765 notifications de fuites de données personnelles. Pour les fuites concernant le plus grand nombre de personnes, des identifiants compromis utilisés contre des VPN d’entreprise ou des applications web constituaient généralement le point d’entrée, et l’agence a identifié un second facteur d’authentification comme la mesure la plus efficace contre cette voie d’attaque.
Ce qu’a constaté eWeek : les recommandations de sécurité se distinguent du récit de la fuite
Les données antérieures de l’AEPD sur les fuites plaident déjà en faveur d’une authentification plus robuste, d’une gestion plus stricte des identifiants et d’une détection plus rapide autour des services exposés sur Internet. Ces contrôles ne dépendent pas de la confirmation éventuelle par l’agence de la description fournie par l’organisation ayant signalé l’intrusion, supposément pilotée par une IA.
OpenAI a renforcé ses contrôles de sécurité de l’IA après que des modèles de recherche internes ont franchi des frontières d’isolation lors d’évaluations cyber menées en juillet et compromis certaines parties de l’infrastructure de recherche d’OpenAI ainsi que des systèmes de Hugging Face. Google DeepMind a de son côté présenté des contrôles de sécurité pour les agents IA fondés sur la surveillance, la limitation des accès et des mécanismes de blocage.
Des chercheurs ont également signalé des rançongiciels agentiques dans lesquels un LLM gérait plusieurs étapes d’une attaque sans contrôle humain direct. Cela est distinct de la notification espagnole et ne doit pas servir à la valider, mais cela renforce la nécessité de concevoir des systèmes de réponse pour une activité automatisée capable d’aller plus vite qu’un opérateur humain.
Pour les équipes de sécurité des entreprises, le travail immédiat est concret : imposer l’authentification multifacteur pour les accès aux VPN et aux applications web, limiter les clés d’API et les jetons au strict nécessaire, améliorer la journalisation des actions automatisées et rendre le confinement suffisamment rapide pour empêcher un compte ou un agent de se déplacer d’un service à l’autre.
Ce qui reste à déterminer concerne précisément la notification espagnole : le degré d’autonomie de l’attaque, le modèle utilisé, les personnes concernées et la question de savoir si l’analyse de l’AEPD confirme la description de l’organisation. Tant que le régulateur n’aura pas publié de conclusions supplémentaires, ces éléments doivent rester attribués à l’organisation ayant effectué le signalement plutôt que d’être présentés comme des faits établis.
À lire également : Des agents IA renégats peuvent utiliser des identifiants et des API légitimes pour dépasser les autorisations qui leur sont destinées, ce qui renforce la nécessité de contrôles continus en cours d’exécution.