Anthropic a informé de hauts responsables de l’administration Trump au sujet de son nouveau modèle Mythos avant d’en donner l’accès à des organisations externes, soulignant à quel point l’entreprise prend au sérieux les implications du système en matière de cybersécurité.
Le modèle n’est pas rendu public, et Anthropic le présente comme suffisamment puissant pour avoir une utilité défensive, tout en comportant des risques évidents de détournement.
Mythos se trouve au cœur d’un débat bien plus vaste sur la sécurité de l’IA : que se passe-t-il lorsqu’un modèle peut aider les défenseurs à trouver plus rapidement des failles logicielles dangereuses, mais pourrait aussi aider les attaquants à exploiter ces mêmes vulnérabilités à grande échelle ? La réponse d’Anthropic, du moins pour l’instant, consiste à limiter strictement l’accès et à s’assurer que les responsables comprennent ce que le modèle peut faire avant d’élargir davantage cet accès.
Pourquoi Anthropic a informé les responsables si tôt
Selon un article de TechCrunch consacré aux propos de Jack Clark, le cofondateur d’Anthropic a déclaré que l’entreprise avait informé l’administration au sujet de Mythos et qu’elle comptait continuer à discuter de ses futurs modèles avec les responsables gouvernementaux. Clark a décrit le conflit entre Anthropic et le Pentagone comme un différend contractuel limité, tout en affirmant que le gouvernement devait toujours avoir de la visibilité sur les systèmes d’IA de pointe ayant des implications pour la sécurité nationale.
L’annonce de son propre Project Glasswing explique plus clairement la prudence de l’entreprise. Elle indique que Mythos Preview a déjà découvert des milliers de vulnérabilités zero-day et d’autres failles de gravité élevée, notamment dans de grands systèmes d’exploitation et navigateurs web, et que le modèle peut contribuer à identifier et à exploiter des faiblesses logicielles à un niveau supérieur à celui de la plupart des chercheurs humains.
Anthropic affirme que ce risque est précisément la raison pour laquelle le modèle est déployé dans le cadre d’un programme à accès restreint plutôt que rendu public.
Ce déploiement à accès restreint façonne déjà le récit plus large autour de Project Glasswing, le programme d’Anthropic qui permet à des organisations sélectionnées d’utiliser Mythos pour des activités de sécurité défensive, plutôt que d’ouvrir largement l’accès au modèle. Anthropic indique que le groupe de partenaires comprend AWS, Apple, Cisco, JPMorganChase, Microsoft, Nvidia et Palo Alto Networks, tandis que plus de 40 autres organisations bénéficient également d’un accès pour contribuer à la sécurisation de logiciels critiques.
Un modèle à accès restreint aux conséquences plus larges
Cette présentation à l’administration intervient également dans un contexte politiquement délicat. Anthropic reste empêtrée dans un différend au sujet de l’accès du Pentagone et des conditions applicables à l’IA militaire, ce qui place l’entreprise dans une position étrange : elle se heurte à une partie du gouvernement tout en continuant à partager des informations sensibles sur le modèle avec d’autres responsables. Cette tension explique en partie pourquoi le différend entre le Pentagone et Anthropic est ici bien plus qu’une intrigue secondaire.
Anthropic subit également une pression accrue pour prouver qu’elle sait gérer un modèle qu’elle juge trop risqué pour être rendu public. Les inquiétudes initiales liées à l’épisode de la fuite de Mythos avaient déjà accru la pression sur Anthropic, qui devait démontrer sa capacité à gérer en toute sécurité un modèle qu’elle juge trop risqué pour être rendu public. Informer les responsables avant d’élargir l’accès contribue à étayer cette démonstration, mais souligne aussi à quel point la charge de la gouvernance repose encore sur l’entreprise elle-même.
Pour l’instant, Anthropic semble tracer une ligne claire autour de Mythos : accès limité, partenaires sélectionnés et information précoce du gouvernement. La question de savoir si cette approche deviendra une méthode standard pour la mise sur le marché des systèmes d’IA de pointe pourrait dépendre de la rapidité avec laquelle les responsables politiques rattraperont les modèles qui arrivent aujourd’hui aux frontières de la cybersécurité.
À lire également : L’IA révèle une pénurie de compétences dans le recrutement en cybersécurité.