Vous n’en croirez pas vos yeux, mais à l’ère de l’IA générative, vous ne devriez peut-être pas les croire.
Une série d’images virales circulant sur les réseaux sociaux semblait montrer des soldats américains capturés par l’Iran, ce qui constituerait un événement spectaculaire dans le conflit grandissant entre les États-Unis et l’Iran.
La publication a rapidement commencé à se propager sur des plateformes comme X et Facebook le 5 mars, avec des légendes affirmant que des « troupes de la Delta Force américaine » avaient été placées en détention. Les images ont été partagées dans plusieurs langues, notamment en anglais, en arabe, en espagnol et en français, ce qui leur a permis d’atteindre des publics de différentes régions.
Cependant, ces images ne sont pas réelles. Les enquêteurs et les vérificateurs de faits estiment au contraire qu’elles ont été créées à l’aide de l’intelligence artificielle.
Cet incident illustre un défi croissant pour les journalistes, les chercheurs et les utilisateurs ordinaires des réseaux sociaux : les images générées par IA et les contenus recyclés peuvent se propager largement avant que la vérité ne les rattrape.
Les signes révélateurs de l’IA générative
Les analystes qui ont examiné les images ont rapidement trouvé des indices révélant leur nature artificielle.
Chaque image contient un petit filigrane en forme d’étincelle associé à l’outil de génération d’images par IA Gemini de Google. Les recherches d’images inversées effectuées avec l’outil « À propos de cette image » de Google ont également signalé que les visuels avaient été créés avec Google AI, en identifiant des filigranes numériques SynthID intégrés, qui indiquent les contenus créés ou retouchés avec les systèmes d’IA de l’entreprise.
Au-delà des indices fournis par les filigranes, les images contiennent également ce que les chercheurs considèrent comme des signes classiques d’erreurs de l’IA générative. Sur plusieurs clichés, les doigts des soldats semblent déformés ou mal formés, leurs visages paraissent flous ou incohérents, et les motifs de camouflage ainsi que les insignes militaires semblent ne pas correspondre.
Sur l’une des images, un personnage en arrière-plan semble même avoir trois bras, une erreur anatomique fréquemment produite par les modèles génératifs qui peinent à restituer avec précision les poses humaines complexes.
Ensemble, ces incohérences visuelles et les filigranes de l’IA générative indiquent fortement que les images ont été générées par une IA plutôt que photographiées dans la « vraie vie ».
Un contexte géopolitique tendu
La dernière escalade du conflit a eu lieu le 28 février, après que les frappes américano-israéliennes auraient tué le Guide suprême iranien, l’ayatollah Ali Khamenei, et déclenché une série de frappes de représailles et de ripostes militaires dans toute la région.
Alors que les tensions ne cessaient de monter, le ministre iranien des Affaires étrangères Abbas Araghchi a averti qu’une éventuelle invasion terrestre américaine ou israélienne serait « un désastre majeur » pour les pays concernés.
Le président américain Donald Trump a écarté cette possibilité dans un entretien accordé à NBC News le même jour, déclarant que l’envoi de troupes américaines en Iran serait une « perte de temps ». Les images virales semblent pourtant suggérer que les forces américaines pourraient déjà opérer à l’intérieur de l’Iran.
Alors que le Pentagone a confirmé que six soldats américains avaient été tués dans une attaque de drone au Koweït peu après le début du conflit, rien ne prouve que d’autres soldats américains aient été capturés par les forces iraniennes.
Une vague plus large de désinformation en temps de guerre
Cet incident n’est qu’un exemple parmi d’autres de la désinformation qui circule en ligne depuis le début du conflit.
Les images générées par IA et les contenus recyclés apparaissent de plus en plus souvent en marge d’événements géopolitiques de dernière minute. L’organisation de vérification des faits Full Fact affirme avoir recensé au moins sept images générées ou retouchées par IA et plus d’une douzaine de vidéos accompagnées de légendes trompeuses liées au conflit, qui circulent en ligne depuis le début des derniers affrontements au Moyen-Orient.
Les publications de désinformation peuvent recueillir des milliers d’interactions avant d’être réfutées. Certaines peuvent même sembler manifestement fabriquées, tout en affichant parfois encore les filigranes visibles des outils d’IA qui les ont générées, et se propager malgré tout largement. Aujourd’hui, la désinformation peut se diffuser rapidement dans l’environnement à grande vitesse des réseaux sociaux et être difficile à corriger une fois qu’elle a pris son essor.
Parmi les exemples récents signalés par les chercheurs figurent de fausses images montrant Khamenei enseveli sous les décombres, ainsi que des scènes fabriquées montrant le Burj Khalifa ou l’USS Abraham Lincoln en proie aux flammes.
De vieilles vidéos recyclées présentées comme des informations de dernière minute
Bien sûr, la désinformation en période de crise n’a rien de nouveau, et on ne peut pas tout mettre sur le dos de l’intelligence artificielle. Dans de nombreux cas récents, les publications trompeuses ne reposent pas du tout sur de nouvelles technologies ; elles recyclent plutôt d’anciennes images et vidéos en les présentant comme des preuves d’événements actuels.
Par exemple, une vidéo spectaculaire d’explosions près d’un bâtiment, qui circulait en ligne comme étant filmée à Tel-Aviv, montre en réalité un incendie dans un entrepôt en Chine en 2015. Les mêmes images avaient déjà été accompagnées de légendes trompeuses lors d’autres événements mondiaux, notamment les attaques de missiles iraniennes contre Israël en 2024 et l’invasion de l’Ukraine par la Russie en 2022.
D’autres vidéos qui circulent pendant la crise actuelle remontent à encore plus longtemps. Une vidéo virale prétendant à tort montrer des bases américaines dans le Golfe attaquées provient en réalité du début de la guerre en Irak, en 2003.
Ces vidéos recyclées gagnent souvent en visibilité parce qu’elles semblent spectaculaires et crédibles, surtout lorsqu’elles sont visionnées hors contexte.
Pourquoi il devient plus difficile de repérer les faux générés par IA
L’accessibilité croissante des outils d’IA générative, conjuguée à des tactiques de désinformation déjà anciennes, rend les vérifications plus difficiles.
Les filigranes visibles intégrés par des outils comme Gemini peuvent révéler certaines images artificielles, mais ils ne constituent pas une protection infaillible. Il est facile de recadrer ces filigranes sur des images ou des vidéos, et de nombreux systèmes d’IA n’intègrent aucun marqueur visible dans les contenus qu’ils génèrent.
Même le filigrane invisible SynthID intégré par Google n’est pas présent sur toutes les plateformes d’IA ; l’absence de tels marqueurs ne prouve donc pas nécessairement l’authenticité.
En définitive, les images virales de « soldats capturés » montrent que les outils d’IA pourraient devenir un nouveau front de la guerre de l’information. À mesure que les modèles d’IA générative gagnent en sophistication et en accessibilité, les experts avertissent que les futures images de guerre fabriquées pourraient être bien plus difficiles à repérer.
Le flot d’images et de vidéos manipulées lors de crises qui évoluent rapidement peut submerger les publics et brouiller la frontière entre documentation réelle et fabrication artificielle.
Pour les journalistes et les chercheurs, cela signifie que les techniques de vérification comme les recherches d’images inversées, l’examen des métadonnées et l’analyse visuelle minutieuse deviennent de plus en plus importantes.
Pour les utilisateurs ordinaires des réseaux sociaux qui cherchent à vérifier des images suspectes, l’étape la plus importante consiste peut-être simplement à prendre le temps de vérifier les faits avant de partager des images ou des affirmations spectaculaires.
À l’ère de l’IA générative, les premières images d’un événement d’actualité de dernière minute pourraient ne plus être une documentation, mais une fabrication.
À lire également : 5 méthodes simples pour repérer les images générées par IA peuvent aider les lecteurs à détecter les signaux visuels suspects avant qu’un faux ne devienne viral.