Google offre une somme conséquente pour prouver que ses nouvelles défenses fonctionnent.
Le géant technologique a déployé des couches de sécurité pour les agents IA de Chrome, avec à la clé un programme de primes pouvant atteindre 20 000 dollars pour quiconque parviendra à contourner ses nouvelles protections.
Les nouveaux agents IA de Chrome peuvent consulter des sites web, effectuer des achats et accéder à vos données les plus sensibles — tout en pouvant être manipulés par des instructions malveillantes dissimulées dans les pages web.
Ces attaques par « injection indirecte de prompts » pourraient inciter l’IA à effectuer des transactions financières non autorisées ou à dérober des informations privées de comptes auxquels l’utilisateur est connecté.
Google a réagi avec un système de défense inédit à plusieurs niveaux, digne d’un thriller de cybersécurité.
L’arbitre IA qui ne dort jamais
La solution ingénieuse de Google semble presque trop astucieuse pour être vraie : l’entreprise a créé un chien de garde IA chargé de surveiller son IA principale. Le « User Alignment Critic » fonctionne comme un modèle Gemini totalement distinct, qui examine attentivement chaque action que l’agent IA principal prévoit d’effectuer. Cet arbitre numérique reste isolé des contenus web potentiellement dangereux et ne voit que les métadonnées des actions proposées, plutôt que les pages web elles-mêmes, qui pourraient contenir des menaces dissimulées.
Le système fonctionne comme un agent de sécurité qui ne se laisse jamais distraire. Une fois que l’agent IA de Chrome a décidé quoi faire, l’Alignment Critic intervient pour poser la question essentielle : cette action sert-elle réellement l’objectif de l’utilisateur ? Si quelque chose semble anormal, le critique peut simplement opposer son veto et contraindre le modèle de planification à revoir sa décision. C’est en quelque sorte de la paranoïa alimentée par l’IA — et c’est peut-être exactement ce dont nous avons besoin.
Au-delà de cette supervision numérique, Google a également mis en place des « Agent Origin Sets », qui établissent des frontières numériques rigides autour des sites web et des données auxquels l’IA peut accéder. Imaginez un système sophistiqué de videur qui classe les sites web en zones accessibles en lecture seule et zones interactives, empêchant un agent compromis de se lancer dans une véritable razzia numérique.
Protocole d’autorisation humaine
L’aspect le plus rassurant du nouveau système de Google concerne peut-être sa gestion des éléments les plus sensibles — votre argent et vos données privées. Les agents IA s’interrompent désormais et demandent explicitement l’autorisation de l’utilisateur avant de tenter d’effectuer des transactions financières, d’accéder à des sites bancaires ou d’utiliser des mots de passe enregistrés. Il ne s’agit pas d’une simple vérification de courtoisie : c’est un véritable arrêt qui exige l’approbation d’un humain.
Le système d’autorisation ne se limite pas aux paiements. L’IA de Chrome demandera désormais l’approbation de l’utilisateur avant d’accéder à des sites sensibles, d’envoyer des messages ou d’effectuer toute « action lourde de conséquences ». Google souligne que les modèles d’IA n’accèdent jamais directement aux données de mots de passe : ils doivent demander au gestionnaire de mots de passe de Chrome de gérer l’authentification, ajoutant ainsi un niveau de protection supplémentaire.
La détection des menaces en temps réel, exécutée en arrière-plan, est encore plus sophistiquée. Google a déployé des systèmes automatisés de red teaming qui génèrent en continu des attaques de test pour sonder les faiblesses. Un classificateur d’injection de prompts fonctionne en parallèle de l’IA principale et est prêt à bloquer toute action s’il détecte un contenu conçu pour détourner le système des objectifs réels des utilisateurs.
Les primes révèlent les véritables enjeux
Le fait que Google offre des primes conséquentes pour les failles de sécurité en dit long sur le sérieux avec lequel l’entreprise prend cette menace. Il ne s’agit pas seulement de protéger Chrome : c’est tout l’avenir des agents IA dans les navigateurs qui est en jeu. Des recherches de Gartner invitent les entreprises à bloquer complètement les navigateurs dotés d’une IA agentique, jusqu’à ce que les risques tels que les injections de prompts soient correctement maîtrisés.
Le National Cyber Security Centre américain a reconnu que les grands modèles de langage pouvaient être exposés à des vulnérabilités liées à l’injection de prompts, qui ne pourront peut-être jamais être totalement résolues. Cette réalité préoccupante rend l’approche de Google fondée sur une défense à plusieurs niveaux non seulement judicieuse, mais essentielle à la survie de cette technologie sur le marché.
La nouvelle architecture de sécurité de Google représente bien plus qu’un simple ensemble de mesures de protection : c’est un modèle de la manière dont les agents IA pourraient fonctionner en toute sécurité dans un environnement numérique toujours plus dangereux. Alors que Chrome pourrait entrer en concurrence avec des outils de navigation dotés d’IA comme Perplexity Comet et ChatGPT Atlas, la sécurité devient un facteur de différenciation majeur plutôt qu’une simple fonctionnalité. L’entreprise qui maîtrisera la première la sécurité des agents IA pourrait dominer entièrement la prochaine phase de la navigation web.
Google s’apprête à vous coller un nouveau genre de superpouvoir sur le visage l’année prochaine : des lunettes alimentées par l’IA conçues autour de sa plateforme Gemini et d’Android XR.