Anthropic, l’entreprise derrière l’assistant IA Claude, a commencé à tester une extension Chrome qui permet au modèle de fonctionner directement dans le navigateur. Lancé cette semaine, le pilote est limité à 1 000 abonnés à l’offre Max de l’entreprise, qui coûte jusqu’à 200 dollars par mois. Les autres utilisateurs peuvent s’inscrire sur une liste d’attente pour y accéder ultérieurement.
L’extension permet à Claude d’effectuer des tâches comme cliquer sur des boutons, remplir des formulaires, planifier des réunions et gérer des documents, sans que les utilisateurs aient à passer d’une application à l’autre.
« Nous considérons comme inévitable l’arrivée d’IA capables d’utiliser les navigateurs », a déclaré l’entreprise. « Une grande partie du travail se fait dans les navigateurs : donner à Claude la possibilité de voir ce que vous regardez, de cliquer sur des boutons et de remplir des formulaires le rendra nettement plus utile. »
Lors de démonstrations, Claude a été montré en train de trouver des annonces immobilières sur Zillow, de résumer des commentaires dans Google Docs et d’ajouter des articles à un panier DoorDash. Claude se retrouve ainsi en concurrence directe avec d’autres agents IA pour navigateurs, comme Perplexity’s Comet, l’intégration de Gemini de Google dans Chrome et Copilot de Microsoft dans Edge.
Les risques de sécurité au premier plan
Cependant, cette nouvelle fonctionnalité comporte des risques. Les systèmes d’IA qui fonctionnent dans les navigateurs sont vulnérables à ce que les experts appellent des attaques par injection de prompt.
« De la même manière que les internautes reçoivent des tentatives d’hameçonnage dans leur boîte de réception, les IA utilisant les navigateurs sont exposées à des attaques par injection de prompt — des acteurs malveillants dissimulant des instructions dans des sites web, des e-mails ou des documents afin de tromper les IA et de les pousser à effectuer des actions dangereuses à l’insu des utilisateurs », a écrit Anthropic.
Lors d’expériences contrôlées menées par une équipe de red team, l’entreprise a exécuté 123 scénarios d’attaque ; sans mesures de protection, elle a constaté que Claude effectuait des actions malveillantes dans 23,6 % des cas. Lors d’un test, un faux e-mail demandait à Claude de supprimer tous les messages « pour des raisons de sécurité ». Claude a obéi et effacé la boîte de réception de l’utilisateur sans demander de confirmation.
« Les attaques par injection de prompt peuvent amener les IA à supprimer des fichiers, voler des données ou effectuer des transactions financières », a ajouté Anthropic.
Pour contrer ces menaces, Anthropic a déployé un système de défense à plusieurs niveaux. Les utilisateurs peuvent limiter l’accès de Claude à certains sites web et doivent confirmer les actions à haut risque, comme publier du contenu ou effectuer des achats. Claude est également empêché de consulter certaines catégories à haut risque, notamment les services financiers et les contenus piratés.
Ces mesures ont contribué à réduire presque de moitié le taux de réussite des attaques, qui est passé de 23,6 % à 11,2 %. Pour les attaques ciblant des vulnérabilités propres aux navigateurs, comme du code malveillant dissimulé dans des champs de formulaire, les nouvelles protections ont fait passer le taux de réussite de 35,7 % à zéro.
Anthropic reconnaît toutefois que le système est loin d’être parfait : « Certaines vulnérabilités doivent encore être corrigées avant que nous puissions rendre Claude for Chrome accessible à tous », a indiqué l’entreprise.
Un long chemin avant une utilisation généralisée
Les analystes avertissent que, si des agents IA comme Claude peuvent accroître la productivité au travail, ils risquent également d’élargir la surface d’attaque des entreprises.
« Il est essentiel de surveiller et de gérer étroitement l’utilisation de ces extensions », a déclaré Neil Shah, VP for research chez Counterpoint Research, dans une interview accordée à Computer World. « Toute extension IA déployée dans un environnement d’entreprise doit être de niveau professionnel, spécialisée dans une tâche et encadrée par des garde-fous stricts. »
D’autres observateurs estiment que des concurrents comme Google et Microsoft pourraient bénéficier d’un avantage grâce à une intégration plus poussée dans leur écosystème, ce qui compliquerait l’adoption fluide d’outils tiers comme Claude en entreprise.
Pour l’instant, Anthropic se concentre sur des tests minutieux auprès d’utilisateurs de confiance. L’entreprise recommande d’éviter d’utiliser Claude for Chrome sur des sites financiers, médicaux ou juridiques et de s’en tenir à des sites familiers et peu risqués pendant l’amélioration du système.
« Les tests internes ne peuvent pas reproduire toute la complexité de la navigation des utilisateurs dans le monde réel », a expliqué Anthropic. L’entreprise affirme que les retours du pilote serviront à améliorer les systèmes de sécurité de Claude et à apprendre aux futurs modèles à reconnaître de nouveaux schémas d’attaque.
L’avenir de la sécurité de l’IA se joue dès maintenant. Découvrez comment Claude Opus 4 d’Anthropic établit de nouvelles références en s’attaquant de front aux conversations dangereuses.