La trêve précaire entre Google et le Pentagone devient de plus en plus difficile à maintenir.
Le géant de la technologie a signé un accord accordant au département de la Défense des États-Unis l’accès à ses modèles d’IA Gemini pour des opérations militaires classifiées, ont confirmé plusieurs sources mardi. L’accord, rapporté en premier par The Information, permet au Pentagone de déployer l’IA de Google pour « toute finalité gouvernementale licite », une formule devenue un point de crispation dans les relations de plus en plus tendues entre la Silicon Valley et Washington.
Cet accès classifié constitue un avenant à un contrat de 200 millions de dollars US que Google avait déjà signé avec le Pentagone, aux termes duquel Gemini était utilisé sur des systèmes gouvernementaux non classifiés, notamment via la plateforme GenAI.mil du Pentagone. Cette nouvelle extension élargit cet accès à des réseaux classifiés utilisés pour des opérations sensibles, notamment la planification des missions et le ciblage des armes.
« Nous sommes fiers de faire partie d’un vaste consortium réunissant des laboratoires d’IA, des entreprises technologiques et des fournisseurs de services cloud de premier plan, qui fournissent des services et des infrastructures d’IA pour soutenir la sécurité nationale », a déclaré la porte-parole Jenn Crider dans un communiqué. « Nous restons attachés au consensus des secteurs privé et public selon lequel l’IA ne doit pas être utilisée pour la surveillance de masse sur le territoire national ni pour des armes autonomes sans supervision humaine appropriée. »
Le responsable de l’IA au Pentagone, Cameron Stanley, a confirmé à CNBC l’élargissement de l’utilisation de Gemini, en le présentant sous un angle pratique. « Beaucoup de choses permettent d’économiser des milliers d’heures de travail, littéralement des milliers d’heures de travail chaque semaine », a-t-il déclaré.
Stanley a également précisé qu’il ne s’agissait pas de s’en remettre à un seul fournisseur. « Il n’est jamais bon de dépendre excessivement d’un seul fournisseur », a-t-il déclaré à CNBC. « C’est particulièrement visible dans les logiciels. »
Pour Google, cet accord constitue une nouvelle avancée sur le marché lucratif de l’IA de défense. Pour ses détracteurs, au sein comme à l’extérieur de l’entreprise, il ravive la même question que celle à l’origine de la révolte autour de Project Maven : où s’arrête l’« utilisation gouvernementale licite » et où commencent les lignes rouges éthiques de la Silicon Valley ?
Les petits caractères et ce qu’ils omettent
La formulation de l’accord est soigneusement pesée, mais penche nettement en faveur de la position du gouvernement.
Selon les informations de The Information, le contrat stipule que « les parties conviennent que le système d’IA n’est pas destiné à la surveillance de masse sur le territoire national ni aux armes autonomes (y compris la sélection des cibles), et ne doit pas être utilisé à ces fins sans supervision et contrôle humains appropriés. »
Mais le même document précise que Google ne dispose d’aucun droit de « contrôler ou d’opposer son veto à la prise de décision opérationnelle licite du gouvernement », une distinction qui, selon les critiques, rend ces garde-fous largement symboliques.
L’accord exigerait également de Google qu’il aide à ajuster ses paramètres et filtres de sécurité de l’IA à la demande du gouvernement, selon The Information, une clause qui risque de susciter un examen encore plus attentif de la part des défenseurs des libertés civiles et des propres salariés de Google.
Une rébellion dans les rangs
Google a défendu l’accord, mais certains employés estiment que l’entreprise s’engage trop rapidement dans des opérations militaires classifiées. Plus de 600 employés des divisions IA et Cloud de Google, dont beaucoup issus du prestigieux laboratoire DeepMind, ont signé une lettre adressée au PDG Sundar Pichai pour lui demander de faire capoter l’accord.
Les employés se sont dits profondément préoccupés par le fait qu’une fois l’IA intégrée à un environnement classifié, l’entreprise perdrait la capacité de surveiller la manière dont elle est réellement utilisée. Dans la lettre, rapportée par The Washington Post, les salariés écrivaient : « Nous voulons voir l’IA profiter à l’humanité, pas la voir utilisée de manière inhumaine ou extrêmement préjudiciable. »
Ils ont averti qu’une « mauvaise décision » pourrait causer des « dommages irréparables » à la réputation de Google. Cette tension interne fait écho à 2018, lorsque Google avait été contraint d’abandonner un projet appelé « Project Maven » après une révolte similaire de ses employés.
L’accord intervient sur fond de différend entre le Pentagone et la start-up d’IA Anthropic, écartée des travaux du département de la Défense après avoir refusé d’assouplir ses garde-fous concernant la surveillance et les armes autonomes. Cette confrontation s’est déplacée devant les tribunaux, soulignant le fossé grandissant entre les exigences du gouvernement et les efforts des entreprises technologiques pour fixer des limites éthiques.
Dans le même temps, le Pentagone cherche à obtenir des milliards de dollars de financement afin de développer des systèmes pilotés par l’IA, signe que l’IA jouera un rôle de plus en plus central dans la stratégie militaire.