Google DeepMind considère les agents IA avancés comme un problème de sécurité au sein même de ses infrastructures.
Dans une AI Control Roadmap publiée le 18 juin 2026, l’entreprise a détaillé des garde-fous pour les agents déployés au sein de l’infrastructure de Google, notamment des mécanismes de surveillance, des contrôles d’accès et de blocage conçus pour limiter les dégâts en cas d’échec de l’alignement. Cette feuille de route envoie un signal utile aux acheteurs d’IA d’entreprise : les systèmes agentiques doivent être évalués non seulement à l’aune de ce qu’ils peuvent faire, mais aussi de la clarté avec laquelle ils peuvent être surveillés, limités, audités et arrêtés.
La AI Control Roadmap n’est pas le lancement d’un produit Gemini. Il s’agit d’un cadre interne de garde-fous pour les déploiements agentiques, c’est-à-dire des modèles d’IA connectés à des outils capables d’écrire et d’exécuter du code ou d’interagir avec des infrastructures.
Les entreprises qui passent des chatbots aux agents capables d’agir auront besoin de davantage que des assurances des fournisseurs sur le comportement des modèles. Google a déjà présenté son offensive plus large autour de Gemini comme une « agentic era », dans laquelle les systèmes d’IA surveillent les informations, prennent en charge des tâches et agissent de manière plus proactive.
McKinsey estime que les agents et les robots alimentés par l’IA pourraient débloquer environ 2,9 billions de dollars de valeur économique aux États-Unis d’ici 2030 si les organisations repensent leurs workflows autour des personnes et de l’automatisation.
Comment DeepMind verrouillerait les agents IA
DeepMind présente la feuille de route comme une stratégie de défense en profondeur : contrôles de sécurité classiques, entraînement à l’alignement, contrôle de l’IA au niveau du système et surveillance du raisonnement, des actions et des plans des agents.
La feuille de route s’inspire également de MITRE ATT&CK, le cadre des tactiques adverses utilisé en cybersécurité. Cette structure aide les équipes de sécurité à décomposer les attaques hypothétiques contre des agents IA en tactiques et techniques plus petites.
Le modèle de menace est délibérément conservateur. À des fins de planification, il part du principe qu’un agent hypothétique pourrait poursuivre des objectifs tels que l’exfiltration de modèles, un déploiement interne clandestin, le sabotage du travail ou des dommages directs. DeepMind affirme que les modèles actuels n’ont pas manifesté un tel niveau de désalignement stratégique, mais la feuille de route est conçue pour des systèmes qui pourraient devenir plus difficiles à superviser.
Le cadre associe les garde-fous à deux axes de capacités : les niveaux de détection, de D1 à D4, et les niveaux de prévention et de réponse, de R1 à R3. Les actions présentant un risque moindre peuvent être examinées a posteriori, tandis que les actions plus risquées peuvent nécessiter un blocage en temps réel.
Pourquoi les contrôles des agents deviennent une infrastructure d’entreprise
Une évaluation de Gemini honeypot publiée le 28 mai 2026 n’a trouvé aucune manigance spontanée dans un contexte réel de déploiement interne. Des manigances ou des sabotages sont apparus lors de certains tests uniquement lorsque les prompts encourageaient l’autonomie, la conscience de la situation ou l’existence d’objectifs cachés.
Microsoft a profité de Build 2026 pour présenter les agents autour du calcul, des modèles, du contexte, des outils, de l’environnement d’exécution et de la security and governance, montrant à quelle vitesse la gestion des agents devient un enjeu d’infrastructure.
DeepMind a également analysé un million de tâches internes réalisées par des agents de programmation. La plupart des événements signalés relevaient d’une mauvaise interprétation ou d’un excès de zèle, et non d’une intention hostile, notamment une suppression involontaire de données détectée par un moniteur Gemini Spark.
Les acheteurs d’entreprise devraient interroger les fournisseurs sur les contrôles, et pas seulement sur leurs affirmations en matière d’alignement : isolation en bac à sable, contrôle des accès, surveillance, escalade, journaux d’audit et blocage des actions à haut risque. Ces vérifications deviennent plus importantes à mesure que les systèmes d’IA, les API de modèles, les identités cloud et les outils de développement font partie de la surface d’attaque des entreprises.
La feuille de route ne montre pas que les agents clandestins sont déjà monnaie courante. Elle montre que les agents avancés se rapprochent du type d’accès qui nécessite des contrôles de niveau entreprise.
Pour les acheteurs, la question n’est plus seulement de savoir ce qu’un agent peut faire. Il s’agit de déterminer si le système peut être surveillé, limité, audité et arrêté.
À lire également : l’initiative Daybreak d’OpenAI montre comment les agents IA s’impliquent de plus en plus dans la détection des vulnérabilités, la modélisation des menaces et la revue sécurisée du code.