En 1984, les spectateurs découvraient une vision glaçante de l’avenir, dans laquelle l’intelligence artificielle livrait une guerre d’extermination à la race humaine. Le film s’appelait « Terminator » et, 41 ans plus tard, son réalisateur, James Cameron, avertit que le postulat de son film d’action révolutionnaire pourrait bientôt devenir réalité.
Un avenir « digne de Terminator » ne semble plus si lointain
Dans une récente interview accordée à Rolling Stone pour promouvoir la sortie du livre « Ghosts of Hiroshima », que Cameron prévoit d’adapter à l’écran, le réalisateur de blockbusters a partagé ses réflexions sur l’avenir de l’IA dans la guerre et la création.
« Je pense effectivement qu’il existe toujours un risque d’apocalypse digne de Terminator si l’on associe l’IA à des systèmes d’armement », a déclaré Cameron, « jusqu’aux systèmes d’armes nucléaires, à la riposte défensive nucléaire, à tout ça. »
Il y a encore une dizaine d’années, les propos du réalisateur d’« Avatar » et de « Titanic » auraient pu passer pour ceux d’un prophète de malheur. Mais l’IA et la course aux armements semblent bel et bien davantage imbriquées aujourd’hui — un scénario qui, il n’y a pas si longtemps, relevait de la science-fiction.
En avril, le Department of Defense a entamé la deuxième phase de l’adoption de l’IA militaire, lancée en 2017, sous le nom de Project Maven. Bien que limitée à l’utilisation de l’IA générative pour soutenir les opérations au sol et l’analyse du renseignement, l’idée d’un avenir où l’IA servirait à prendre des décisions plus cruciales n’a rien d’extravagant.
La dépendance croissante de l’armée à l’IA
« Comme le théâtre des opérations évolue si rapidement et que les fenêtres de décision sont si courtes, il faudrait une superintelligence capable de traiter ces informations ; peut-être serons-nous assez intelligents pour garder un humain dans la boucle », a ajouté Cameron. « Mais les humains sont faillibles, et de nombreuses erreurs nous ont placés au bord d’incidents internationaux qui auraient pu déclencher une guerre nucléaire. Alors, je ne sais pas. »
Certaines organisations de défense des droits humains font écho aux doutes de Cameron, invoquant les questions éthiques liées à l’utilisation de l’IA pour dresser des listes de cibles ou suggérer des actions à partir de données de renseignement traitées et analysées par l’IA. Les sous-traitants de la défense affirment qu’une supervision humaine est requise pour toute décision prise par une IA.
L’engagement à garder un « humain dans la boucle » devient toutefois de plus en plus difficile à tenir, à mesure que l’armée s’appuie sur des ensembles de données toujours plus vastes et complexes pour prendre ses décisions. Les modèles d’IA et l’IA générative peuvent traiter des données complexes plus rapidement que n’importe quel humain, ce qui pourrait remplacer les processus traditionnels d’analyse du renseignement militaire.
Le Department of Defense avance à marche forcée dans le développement de ses capacités en matière d’IA. Il s’est récemment associé aux entreprises technologiques Anduril, Scale AI et Palantir pour recueillir et traiter des données de surveillance et de renseignement. Mais le contrôle de ces données pourrait poser problème. Palantir, par exemple, fait appel à Microsoft pour fournir des outils d’IA à l’armée, entraînés à l’aide d’ensembles de données militaires classifiés.
L’avertissement créatif de Cameron sur les limites humaines
Il est difficile de ne pas voir l’intégration rapide de l’IA dans l’armée comme un tremplin vers l’avenir cauchemardesque — mais encore fictif — imaginé par Cameron. Dans la saga « Terminator », un réseau d’IA appelé Skynet obtient un accès de plus en plus large aux systèmes militaires, jusqu’à devenir conscient de lui-même et à décider que le temps de l’humanité est révolu.
Cameron ne croit pas que l’IA puisse un jour « émouvoir un public » comme le ferait un être humain, puisqu’elle « se contente de régurgiter ce que d’autres esprits incarnés ont dit — sur la vie qu’ils ont vécue, sur l’amour, sur le mensonge, sur la peur, sur la mortalité ». Mais c’est peut-être le manque de compréhension de la condition humaine par l’IA qui finira par causer notre perte.