Cisco intègre Claude Mythos d’Anthropic à sa plateforme AI Defense, offrant aux équipes de sécurité un moyen plus puissant de vérifier si les agents IA d’entreprise peuvent être manipulés pour divulguer des données, utiliser des outils à mauvais escient ou effectuer des actions non autorisées.
Annoncée lors de Cisco Live APJC le 9 nov., cette intégration utilise Claude Mythos pour élaborer des attaques en plusieurs étapes adaptées à chaque système d’IA. L’accès sera d’abord limité à certaines grandes entreprises, et Cisco n’a annoncé aucune date de disponibilité générale.
Cette approche vise un problème croissant pour les entreprises qui déploient des agents autonomes : les failles de sécurité qui apparaissent lorsque les systèmes d’IA interagissent avec des applications internes, des API et des informations sensibles. Cisco affirme que son framework existant de red teaming adaptatif peut tester ces environnements, tandis que Mythos renforcera le raisonnement à l’origine de ses attaques simulées.
Comment fonctionne l’intégration de Claude Mythos par Cisco
Selon l’annonce de Cisco, Claude Mythos viendra compléter le système existant de red teaming adaptatif d’AI Defense plutôt que le remplacer.
Le red teaming standard vérifie les vulnérabilités courantes, notamment l’injection de prompts, les jailbreaks et l’exposition de données sensibles. Les tests adaptatifs examinent une application donnée, génèrent des attaques en fonction de son comportement et modifient leur tactique en réaction aux résultats.
Claude Mythos ajoute un raisonnement contradictoire plus avancé afin d’élaborer des attaques contextuelles impliquant plusieurs étapes ou des outils interconnectés.
Cisco restreint également la manière dont ses clients peuvent utiliser le modèle. Son explication technique identifie quatre garde-fous :
- Cibles autorisées : Les tests ne sont exécutés que sur des systèmes enregistrés et approuvés par le client.
- Opérateurs identifiés : Chaque intervention est associée à un utilisateur d’entreprise authentifié.
- Exécution contrôlée : Les tests suivent des objectifs prédéfinis, s’exécutent dans des limites de temps et peuvent être interrompus.
- Auditabilité : Les actions sont consignées à des fins d’examen, tandis que les clients ne peuvent pas soumettre librement des prompts à Mythos ni analyser des systèmes Internet arbitraires.
Ces restrictions sont particulièrement pertinentes, car le Project Glasswing d’Anthropic a déjà démontré la capacité du modèle à découvrir des vulnérabilités logicielles difficiles à détecter.
Le défi consiste à exploiter ces capacités à des fins défensives sans donner aux utilisateurs un accès illimité à un modèle avancé de cybersécurité.
Ce qu’a constaté eWeek : des tests plus poussés, mais des lacunes importantes subsistent
L’annonce de Cisco donne une idée plus précise de la manière dont Mythos sera contrôlé que de l’ampleur de son amélioration des résultats en matière de sécurité.
La distinction entre les capacités existantes et l’intégration à venir est importante pour les entreprises qui évaluent AI Defense.
| Capacité | Disponibilité | Ce que les entreprises doivent savoir |
|---|---|---|
| Red teaming standard de l’IA | ✔ Disponible | Teste les vulnérabilités courantes de l’IA |
| Red teaming adaptatif de l’IA | ✔ Disponible | Élabore des attaques adaptées à des applications spécifiques |
| Intégration de Claude Mythos | ✖ Bientôt disponible | Ajoute un raisonnement avancé pour les attaques ; certaines entreprises d’abord |
| Résultats indépendants sur les performances de Mythos | ✖ Non publiés | Les améliorations de la détection restent à vérifier |
| Date de disponibilité générale | ✖ Non annoncée | Un accès plus large dépend de la qualification et des décisions de déploiement |
Source : annonce et blog technique de Cisco du 9 nov.
Trois points retiennent l’attention des équipes de sécurité :
- Tester ne suffit pas à prévenir. Découvrir une faille exploitable ne la corrige pas automatiquement. Les organisations ont toujours besoin de garde-fous à l’exécution, de permissions d’agent restreintes et de processus de remédiation.
- Les capacités du modèle ne se mesurent pas à la précision de la détection. Cisco n’a publié aucun résultat comparatif établissant combien de vulnérabilités supplémentaires Mythos identifie, quel est son taux de faux positifs ou combien de temps est nécessaire pour valider ses découvertes.
- L’accès restreint limite l’adoption immédiate. Les clients actuels d’AI Defense peuvent utiliser les tests standard et adaptatifs, mais l’amélioration apportée par Mythos n’est pas encore largement disponible.
La distinction entre la découverte et la correction des vulnérabilités est déjà visible dans les recherches d’Anthropic sur Mythos, où le grand nombre de découvertes générées par l’IA a créé des difficultés de vérification et de déploiement des correctifs.
Cisco a également annoncé des améliorations connexes de Splunk Agent Observability. Tokenomics, qui met en relation les dépenses consacrées à l’IA et les évaluations de la qualité des résultats, entrera en préversion privée en décembre, tandis que sa disponibilité générale sur AWS Marketplace est prévue pour le début de 2027.
Pour les entreprises qui se préparent à déployer des agents ayant accès à des systèmes sensibles, la priorité pratique reste de tester des chemins d’attaque réalistes, de limiter les permissions et de vérifier le fonctionnement des garde-fous avant la mise en production. Claude Mythos pourrait élargir l’éventail des faiblesses découvertes par ces tests, mais il faudra disposer de résultats clients pour établir cette amélioration.
À lire aussi : Le cas de la prime de 300 000 dollars US versée par Meta pour un bug d’agent IA examine les défaillances d’authentification, l’injection de prompts et l’exposition d’identifiants dans un autre déploiement d’IA d’entreprise.