Le secrétaire à la Guerre Pete Hegseth a convoqué Dario Amodei, le PDG de l’entreprise d’intelligence artificielle Anthropic, au Pentagone mardi matin pour ce que des responsables décrivent comme une confrontation à très haut risque sur la manière dont l’armée peut utiliser le modèle d’IA phare de l’entreprise, Claude.
Cette rencontre intervient alors que les négociations entre le département de la Défense (DOD) et la start-up spécialisée dans l’IA basée à San Francisco ont atteint un point de rupture. Alors que la plupart des réunions inaugurales à Washington donnent lieu à des poignées de main polies, des responsables indiquent clairement que celle-ci sera tout sauf cordiale.
« Anthropic sait qu’il ne s’agit pas d’une réunion destinée à faire connaissance », a déclaré un haut responsable de la Défense à Axios. « Ce n’est pas une réunion amicale. C’est une réunion où il faut se décider ou partir. »
Cette évaluation sans détour traduit la frustration croissante au sein du Pentagone envers un laboratoire d’IA qui s’est positionné comme l’alternative soucieuse de la sécurité face à des rivaux comme OpenAI et Google, mais qui se retrouve désormais seul à refuser de donner aux militaires tout ce qu’ils demandent.
Le problème Claude
Claude est actuellement le seul modèle d’IA avancé utilisé sur les réseaux classifiés du Pentagone. Il est profondément intégré à des opérations sensibles de défense et de renseignement, et les responsables militaires affirment que le remplacer serait une entreprise gigantesque, sans alternative évidente offrant des capacités comparables.
Mais Anthropic a tracé une ligne rouge… en fait, deux.
L’entreprise est prête à assouplir la plupart de ses restrictions d’utilisation pour les applications militaires, mais elle veut la garantie que Claude ne sera pas utilisé à deux fins précises : la surveillance de masse des Américains et la mise au point d’armes autonomes capables de tirer sans intervention humaine.
Le Pentagone voit les choses différemment. Les responsables de la Défense affirment que les négociations n’ont enregistré aucun progrès et sont au bord de l’effondrement. Le département veut que tous les laboratoires d’IA rendent leurs modèles disponibles pour « toutes les utilisations légales », sans avoir à faire valider chaque application individuellement par les entreprises.
Lors d’un discours prononcé en janvier chez SpaceX, Hegseth a exprimé sa frustration à l’égard des systèmes d’IA restrictifs, déclarant qu’il s’éloignait des modèles « qui ne vous permettent pas de faire la guerre ». Il a ajouté que sa vision pour le département comprenait des systèmes fonctionnant « sans contraintes idéologiques qui limitent les applications militaires légales », avant de conclure que l’« IA du Pentagone ne sera pas woke ».
Le même mois, Hegseth a annoncé que xAI, l’entreprise de Musk, apporterait son chatbot Grok au réseau du Pentagone, une décision intervenue quelques jours après que Grok a suscité l’indignation dans le monde entier en générant des images deepfake sexualisées sans consentement. Début février, OpenAI a annoncé qu’elle rejoindrait elle aussi la plateforme d’IA sécurisée de l’armée, permettant aux membres des forces armées d’utiliser une version personnalisée de ChatGPT pour des tâches non classifiées.
L’ultimatum
La tension s’est intensifiée après le raid de janvier au cours duquel le président vénézuélien Nicolás Maduro a été capturé, et durant lequel Claude aurait été utilisé. Cet épisode a mis en lumière le fossé entre les besoins opérationnels de l’armée et les limites éthiques de l’entreprise.
Si la réunion de mardi ne débouche pas sur une avancée décisive, les conséquences pourraient être énormes. Le Pentagone a menacé de qualifier Anthropic de « risque pour la chaîne d’approvisionnement ». Une telle décision annulerait non seulement le contrat de 200 millions de dollars d’Anthropic mais pourrait aussi empêcher d’autres sous-traitants de la Défense d’utiliser Claude dans le cadre de leurs propres travaux pour le gouvernement.
Une histoire de tensions
Ce n’est pas la première fois qu’Anthropic se retrouve en désaccord avec l’administration Trump.
L’entreprise a publiquement critiqué les propositions de l’administration visant à assouplir les restrictions à l’exportation de puces pour l’IA vers la Chine, s’en prenant au passage à Nvidia. À l’époque, le principal conseiller de Trump pour l’IA, David Sacks, a accusé Anthropic de « mener une stratégie sophistiquée de capture réglementaire fondée sur l’alarmisme », en réaction aux propos du cofondateur Jack Clark sur la nécessité de concilier optimisme et « peur appropriée » face aux progrès de l’IA.
La rencontre pourrait déterminer si Claude reste au cœur des systèmes les plus sensibles du Pentagone ou si l’armée met ses menaces à exécution et entame le douloureux processus visant à évincer Anthropic.
Malgré l’ultimatum qui se profile, Anthropic conserve publiquement un ton diplomatique. Un porte-parole de l’entreprise a déclaré à Axios : « Nous avons des échanges productifs, menés de bonne foi », ajoutant que l’entreprise « s’engage à utiliser l’IA de pointe au service de la sécurité nationale des États-Unis ».
À lire également : le déploiement de ChatGPT par OpenAI sur GenAI.mil vise à élargir l’accès sécurisé à une IA non classifiée à environ 3 millions de membres du personnel militaire et civil.