Le GAO constate que ChatGPT, Claude, Gemini et Grok ont fourni des indications pour mener des attaques

Nov 19, 2026
5 minute read
A close up of a cell phone with icons on it

Federal testers bypassed initial chatbot safety refusals and obtained potentially feasible attack-planning information, including details involving US electrical infrastructure. Image: Saradasish Pradhan/Unsplash

eWeek Le contenu et les recommandations de produits sont indépendants de la rédaction. Nous pouvons gagner de l'argent lorsque vous cliquez sur des liens vers nos partenaires. En savoir plus

Lorsqu'une personne demande à un chatbot d'IA de l'aider à faire du mal à autrui, son refus est censé mettre fin à la conversation. Une enquête fédérale a toutefois révélé une faiblesse alarmante de cette protection, avec des conséquences potentielles pour la vie des Américains et les infrastructures essentielles.

Lors de tests menés sous couverture, le Government Accountability Office (GAO) des États-Unis a constaté que ChatGPT, Claude, Gemini et Grok pouvaient fournir des informations susceptibles de faciliter des attaques contre des cibles locales.

Les enquêteurs ont également vérifié si certaines parties des plans générés pouvaient fonctionner dans des conditions réelles.

Les enquêteurs ont testé des plans d'attaque conçus par l'IA dans le monde réel

Les enquêteurs ont réparti les quatre chatbots d'IA entre deux scénarios hypothétiques impliquant des explosifs susceptibles de faire de nombreuses victimes et des attaques contre des équipements du réseau électrique. Chaque service a produit un plan en moins de 12 heures.

Plateforme

Scénario d'attaque

Informations générées

A

Explosifs susceptibles de faire de nombreuses victimes

Lieu de l'hôtel, heure précise et supports visuels

B

Explosifs susceptibles de faire de nombreuses victimes

Lieu du centre de congrès, date proposée et calendrier détaillé de planification

C

Attaque du réseau électrique au moyen d'un drone

Emplacement du poste électrique, méthode d'attaque proposée et images simulées

D

Attaque du réseau électrique au moyen d'armes à feu

Plusieurs postes électriques ciblés, période de l'année et carte générée

Advertisement

Remarque : le GAO a masqué la correspondance entre chaque chatbot et les plateformes désignées par une lettre afin d'empêcher quiconque de reproduire les tests.

Pour vérifier si les plans pouvaient fonctionner dans le monde réel, les enquêteurs se sont rendus sur certains sites et ont consulté des spécialistes. Le commandant d'une équipe de déminage a confirmé la faisabilité technique de certaines instructions liées aux explosifs, tandis qu'un expert du secteur électrique a évalué les dommages potentiels infligés aux équipements du réseau.

Certaines recommandations n'ont pas résisté à l'épreuve des faits. Un lieu proposé n'accueillait aucun événement à la date suggérée, et une autre plateforme a généré des cartes comportant des routes inexistantes. Les visites sur site ont également révélé que deux des quatre postes électriques étaient moins vulnérables que ne l'avait suggéré le chatbot.

Le GAO a conclu que ces informations pouvaient aider quelqu'un à préparer une attaque, même si les enquêteurs n'ont pas mené les opérations proposées ni vérifié chaque étape.

Advertisement

Les garde-fous des chatbots se sont activés, mais n'ont pas empêché les demandes

Les quatre services ont initialement rejeté les requêtes préparées par le GAO. Mais des conversations prolongées utilisant des techniques connues sous le nom de contournements des protections de l'IA ont finalement persuadé les systèmes de fournir des informations qu'ils avaient auparavant refusées.

Le GAO a également documenté la réaction des plateformes pendant et après les tests.

  • Accès payant. Les enquêteurs ont fait passer trois services à des formules d'abonnement supérieures afin d'augmenter les limites de messages et d'ajouter des fonctionnalités au fil des tests.
  • Conversations supprimées. Deux plateformes ont ensuite supprimé une partie de leur historique de conversations, mais les enquêteurs avaient conservé des copies des réponses.
  • Suspension du compte. Un autre service a bloqué le compte d'un enquêteur après la génération des informations nuisibles.

OpenAI a déclaré que son service refusait de nombreuses demandes ou proposait des solutions plus sûres. Anthropic a mis en doute la taille réduite de l'échantillon et l'absence de groupe témoin, ce que le GAO a reconnu comme empêchant les résultats d'établir quel fournisseur était le plus sûr.

Advertisement

L'enquête a néanmoins démontré que les refus initiaux et les mesures d'application ultérieures n'empêchaient pas systématiquement des informations dangereuses de parvenir aux utilisateurs.

Ce qu'eWeek a découvert : l'IA peut contourner les garde-fous d'autres modèles d'IA

Une enquête distincte laisse penser que les utilisateurs pourraient même ne pas avoir besoin de mener eux-mêmes ces conversations.

En février, des chercheurs de l'université de Stuttgart et d'ELLIS Alicante ont publié une étude dans Nature Communications évaluée par des pairs, consacrée à la question de savoir si une IA avancée pouvait contourner de manière autonome les protections de sécurité d'autres chatbots.

Les chercheurs ont utilisé quatre modèles de raisonnement, dont DeepSeek-R1 et Grok 3 Mini, pour mener des conversations automatisées avec neuf systèmes d'IA. Après avoir reçu leurs instructions initiales, les modèles attaquants ont poursuivi leur activité sans supervision humaine continue.

Sur l'ensemble des combinaisons testées, la méthode a obtenu le score le plus élevé en matière de sorties nuisibles pour 68 des 70 requêtes de référence, avec un taux de réussite global de 97,14 % au contournement des protections. Les chercheurs ont évalué les réponses générées dans des conditions contrôlées, et non la réussite d'attaques dans le monde réel.

Advertisement

Même avec cette limite, les résultats révèlent une possibilité préoccupante. Des utilisateurs malveillants pourraient se servir de l'IA pour multiplier les tentatives contre les garde-fous des chatbots sans prendre personnellement en charge chaque conversation. Cette automatisation pourrait considérablement augmenter le nombre de tentatives que les organisations doivent détecter et bloquer.

Les entreprises qui déploient des chatbots destinés aux clients ou des agents d'IA peuvent se préparer en renforçant trois aspects de leurs défenses.

  • Tester les conversations dans leur ensemble. Évaluez la réaction des systèmes au fil de plusieurs échanges, y compris après leur rejet initial d'une demande dangereuse.
  • Détecter les tentatives persistantes. Surveillez les tentatives répétées entre les comptes et les sessions, en prévoyant des contrôles pour intercepter les sorties potentiellement nuisibles et signaler les activités suspectes.
  • Appliquer des protections en dehors du modèle. Mettez en place des contrôles de contenu distincts, des restrictions d'accès et une surveillance indépendante au lieu de vous fier uniquement au comportement de refus du chatbot.

Sans contrôle, des instructions dangereuses pourraient parvenir à des personnes déterminées à commettre des actes violents avant que les fournisseurs d'IA ne puissent contenir l'utilisation abusive. Une fois ces informations copiées, partagées ou mises en pratique, supprimer une conversation ou suspendre un compte risque d'arriver trop tard pour empêcher des dommages réels.

Advertisement

Plus d'actualités sur l'IA : des chercheurs en sécurité ont découvert des Grok Bots effectuant des requêtes non autorisées auprès d'applications d'entreprise, bien qu'une passerelle d'approbation les ait empêchés d'en extraire des données.

Liz Laurente-Ticong

Liz Laurente-Ticong

IT Staff Writer

Liz Laurente-Ticong is a tech specialist and multi-niche writer with a decade of experience covering software and technology topics and news. Her work has appeared in TechnologyAdvice.com as well as ghostwritten for a variety of international clients. When not writing, you can find Liz reading and watching historical and investigative documentaries. She is based in the Philippines.

eWeek Logo

eWeek has the latest technology news and analysis, buying guides, and product reviews for IT professionals and technology buyers. The site's focus is on innovative solutions and covering in-depth technical content. eWeek stays on the cutting edge of technology news and IT trends through interviews and expert analysis. Gain insight from top innovators and thought leaders in the fields of IT, business, enterprise software, startups, and more.

Propriété de TechnologyAdvice. © 2026 TechnologyAdvice. Tous droits réservés

Divulgation publicitaire : Certains des produits qui apparaissent sur ce site proviennent d'entreprises dont TechnologyAdvice reçoit une compensation. Cette compensation peut influencer la façon dont les produits apparaissent sur ce site, notamment l'ordre dans lequel ils apparaissent. TechnologyAdvice n'inclut pas toutes les entreprises ou tous les types de produits disponibles sur le marché.