« Messieurs, vous ne pouvez pas vous battre ici ! C’est la salle de guerre. »
Ce n’est pas tout à fait « Dr Folamour », mais il se passe une étrange histoire d’amour dans le monde de l’IA militaire.
Le Pentagone s’oppose au développeur d’IA Anthropic sur des garde-fous qui empêcheraient le gouvernement d’utiliser sa technologie pour cibler des armes de manière autonome et mener des opérations de surveillance intérieure aux États-Unis, ont déclaré trois personnes au fait du dossier à Reuters.
Ces discussions constituent un premier test pour déterminer si la Silicon Valley, largement revenue dans les bonnes grâces de Washington après des années de relations tendues, peut influer sur la manière dont les agences militaires et de renseignement américaines déploient une IA de plus en plus puissante sur le champ de bataille et au-delà.
Après des mois de négociations dans le cadre d’un contrat pouvant atteindre 200 millions de dollars US, le département américain de la Défense et Anthropic sont dans une impasse, selon six personnes au fait du dossier, qui ont toutes parlé sous couvert d’anonymat pour évoquer ces discussions sensibles.
Ce désaccord met en lumière les tensions croissantes entre les agences de sécurité nationale, désireuses d’exploiter l’IA commerciale à grande échelle, et les entreprises technologiques qui tentent d’imposer des limites à l’utilisation de leurs outils, en particulier dans des contextes létaux ou intérieurs.
L’impasse
La position de l’entreprise sur les usages possibles de ses outils d’IA a exacerbé les désaccords qui l’opposent à l’administration Trump, dont les détails n’avaient pas encore été révélés.
Anthropic, fondée par d’anciens dirigeants d’OpenAI et connue pour mettre l’accent sur la sécurité de l’IA, a réclamé des garanties contractuelles qui limiteraient les modalités de déploiement de ses modèles. Lors de discussions avec des responsables gouvernementaux, des représentants d’Anthropic ont fait part de leurs inquiétudes quant au risque que leurs outils servent à espionner des Américains ou à contribuer au ciblage d’armes sans supervision humaine suffisante, selon plusieurs sources.
Les responsables du Pentagone ont toutefois vivement réagi à ces restrictions. Conformément à une note du département datée du 9 janvier sur la stratégie en matière d’IA, ils ont fait valoir qu’ils devraient être libres de déployer des technologies d’IA commerciales indépendamment des politiques d’utilisation internes d’une entreprise, dès lors que ces déploiements respectent le droit américain.
Cette position traduit une conception plus large, au sein du Pentagone, selon laquelle les décisions opérationnelles doivent relever des dirigeants élus et des commandants militaires, et non des entreprises technologiques privées. Les responsables craignent que la possibilité laissée aux entreprises d’imposer des garde-fous ne limite la flexibilité dans des scénarios évoluant rapidement ou présentant de hauts risques.
Un porte-parole du département de la Défense, que l’administration Trump a rebaptisé département de la Guerre, n’a pas répondu immédiatement aux demandes de commentaire.
Anthropic a déclaré que son IA était « largement utilisée par le gouvernement américain dans le cadre de missions de sécurité nationale et que nous menons des discussions constructives avec le département de la Guerre sur les moyens de poursuivre ce travail ».
Malgré ces frictions, les responsables du Pentagone auraient probablement encore besoin de la coopération d’Anthropic s’ils souhaitent aller de l’avant. Les modèles de l’entreprise sont entraînés pour éviter d’entreprendre des actions susceptibles de causer des dommages, et le personnel d’Anthropic serait chargé de modifier ou d’ajuster finement les systèmes pour des applications de défense spécifiques, ont indiqué plusieurs sources.
Conséquences pour l’IA militaire et influence sur le secteur
Cette querelle pourrait menacer les activités d’Anthropic avec le Pentagone à un moment particulièrement sensible pour l’entreprise. La start-up de San Francisco prépare une éventuelle entrée en Bourse et a beaucoup investi pour attirer les clients américains de la sécurité nationale. Elle a également cherché à jouer un rôle de premier plan dans l’élaboration de la politique gouvernementale en matière d’IA, se positionnant à la fois comme fournisseur et comme référence sur le déploiement responsable de l’IA.
Anthropic fait partie de la poignée de grands développeurs d’IA auxquels le Pentagone a attribué des contrats l’an dernier, aux côtés de Google d’Alphabet, de xAI d’Elon Musk et d’OpenAI. Ces accords étaient perçus comme le signe que le département de la Défense accélérait l’intégration de l’IA commerciale dans la planification de la défense, la logistique, l’analyse du renseignement et, potentiellement, les systèmes d’armes.
Mais l’impasse actuelle souligne une question fondamentale à laquelle le gouvernement américain est confronté : dépendre de fournisseurs d’IA commerciaux implique-t-il également d’accepter les limites fixées par ces entreprises, ou les impératifs de sécurité nationale primeront-ils sur les politiques des sociétés ?
Pour la Silicon Valley, l’issue pourrait façonner ses relations futures avec Washington. Si Anthropic parvient à faire respecter ses garde-fous, cela pourrait encourager d’autres entreprises à exiger des restrictions similaires. En cas d’échec, les entreprises devront peut-être décider si elles renoncent à de lucratifs contrats gouvernementaux ou si elles acceptent des usages plus larges de leur technologie.
Contexte politique
Dans un essai publié cette semaine sur son blog personnel, le PDG d’Anthropic, Dario Amodei, a soutenu que l’IA devait soutenir la défense nationale « de toutes les manières, sauf celles qui nous rendraient davantage semblables à nos adversaires autocratiques ». Ce commentaire reflète l’opinion de certains chercheurs en IA selon laquelle les gouvernements démocratiques devraient imposer des limites éthiques plus strictes aux technologies émergentes, même si leurs rivaux ne le font pas.
Amodei fait également partie des cofondateurs d’Anthropic qui ont dénoncé les fusillades mortelles visant des citoyens américains qui manifestaient contre les opérations de contrôle de l’immigration à Minneapolis, des faits qu’il a qualifiés d’« horreur » dans une publication sur X. Ces décès ont renforcé les inquiétudes de certains acteurs de la Silicon Valley quant à la manière dont les agences gouvernementales pourraient utiliser les technologies avancées, y compris l’IA, d’une façon susceptible de contribuer à des violences ou à des atteintes aux libertés civiles.
À mesure que les systèmes d’IA gagnent en capacités et s’intègrent plus profondément aux opérations de sécurité nationale, le différend entre Anthropic et le Pentagone illustre la lutte plus vaste autour de la question de savoir qui peut définir les règles.
Darren Aronofsky réinvente la guerre d’Indépendance américaine grâce à l’IA.