Une enquête a révélé que des réseaux en ligne produisent des images et des récits de la Shoah générés par IA afin d’attirer du trafic sur Facebook, diffusant des contenus fabriqués qui deviennent rapidement viraux. Parmi les publications manipulées figurent des représentations fabriquées d’enfants présentés comme des victimes d’Auschwitz ; des images mises en scène de couples devant des clôtures de camps, ainsi que des représentations inventées de prisonniers jouant de la musique. Nombre des noms, identités et détails narratifs de ces publications sont entièrement fictifs.
Les organisations consacrées à la Shoah affirment que cette tendance est profondément offensante et fait souffrir ceux qui ont vécu ces atrocités. « Nous avons ici quelqu’un qui invente des histoires… pour une sorte de jeu émotionnel étrange qui se déroule sur les réseaux sociaux », a déclaré Pawel Sawicki, porte-parole de l’Auschwitz Memorial en Pologne, dans un entretien avec la BBC. « Ce n’est pas un jeu. C’est un monde réel, des souffrances réelles et des personnes réelles que nous voulons et devons commémorer. »
Dr. Robert Williams, de l’International Holocaust Remembrance Alliance, a ajouté que les survivants éprouvent « une certaine tristesse que cela ait été rendu possible », déclarant à la BBC : « Ils ont le sentiment que leurs efforts n’ont pas suffi. C’est une chose très triste à envisager, car les derniers survivants vont bientôt nous quitter. »
Les spammeurs exploitent la monétisation de Meta
Les enquêteurs ont retracé nombre de ces fausses publications sur la Shoah jusqu’à des créateurs de contenu au Pakistan et dans d’autres pays, où la production de contenus viraux pour Facebook peut générer des revenus grâce à des mécanismes de monétisation. Un utilisateur, Abdul Mughees, a diffusé des captures d’écran laissant entendre qu’il avait gagné 20 000 dollars US, sans que ces affirmations puissent être confirmées de manière indépendante.
Un créateur de contenu pakistanais, Fazal Rahman, a déclaré à la BBC que les pages comptant des centaines de milliers d’abonnés pouvaient rapporter jusqu’à 1 000 dollars US par mois, les vues occidentales ayant bien plus de valeur que celles provenant d’Asie. « L’Histoire, en tant que sujet, était un moteur fiable du trafic en ligne », a-t-il expliqué.
Les chercheurs avertissent que ce modèle incitatif alimente une prolifération de contenus IA de piètre qualité, parfois appelés « bouillie IA », parmi lesquels figurent des documents fabriqués sur la Shoah.
Les proches des survivants ont été particulièrement affectés par ces images fabriquées. « Quand je vois qu’ils publient ces images, j’ai presque l’impression que cela se moque de nous… comme si nous pouvions recréer artificiellement cette perte », a déclaré Shaina Brander, une New-Yorkaise dont la grand-mère a survécu à la Shoah, dans un entretien avec l’AFP. « On ne peut pas créer une photo par IA pour lui rendre cette image. »
La réponse de Meta
Meta, la maison mère de Facebook, a déclaré que les images de la Shoah générées par IA ne constituaient pas en elles-mêmes une violation technique de ses règles relatives aux contenus, tout en confirmant avoir supprimé certains comptes liés à ce spam consacré à la Shoah.
Un porte-parole de l’entreprise a déclaré à la BBC : « Nous avons supprimé les Pages et les Groupes qui nous ont été signalés et désactivé les comptes qui les géraient pour violation de nos règles relatives au spam et aux comportements inauthentiques. »
Les critiques estiment toutefois que cette réponse est insuffisante, avertissant que la déformation de l’histoire de la Shoah fragilise des décennies d’efforts d’éducation et de mémoire.
La Shoah a tué plus de six millions de personnes. Les photographies authentiques prises à l’intérieur des camps nazis sont rares et constituent des preuves essentielles, mais douloureuses, des atrocités. Les experts avertissent que la manipulation par IA n’insulte pas seulement les victimes et les survivants, mais risque aussi de semer la confusion chez les générations futures.
Examinez de plus près les controverses qui façonnent l’éthique de l’IA. Des biais algorithmiques aux lacunes en matière de gouvernance, cet article expose les enjeux pour les responsables politiques comme pour les entreprises.