Dans l’étrange tourbillon des réseaux sociaux, les tendances surgissent souvent de nulle part. Ce mois-ci, l’une des vedettes les plus improbables est Amelia, une écolière britannique aux cheveux violets, générée par IA, qui n’était pas censée exister en dehors d’une salle de classe, mais qui inonde désormais les fils d’actualité de mèmes extrémistes.
Créée à l’origine dans le cadre d’un projet contre l’extrémisme, Amelia a été transformée en ligne en symbole nationaliste, partagé des milliers de fois par jour sur des plateformes comme X et Facebook, selon une enquête de The Guardian.
Qui est Amelia ?
Amelia n’est pas née dans un studio de marketing branché.
Elle a vu le jour sous la forme d’un antagoniste fictif dans un jeu vidéo éducatif intitulé Pathways: Navigating the Internet and Extremism. Financé par le ministère de l’Intérieur britannique et développé par l’entreprise médiatique Shout Out UK, le jeu a été conçu pour aider les adolescents du Yorkshire à repérer les signes de radicalisation.
Dans le jeu, Amelia joue le rôle d’un personnage destiné à mettre en garde — une adolescente nationaliste qui tente d’attirer les joueurs dans un groupe dénonçant « l’érosion des valeurs britanniques ». Mais dans un retournement qui a stupéfié les experts, le public même contre lequel elle était censée mettre en garde l’a adoptée.
Au lieu d’être perçue comme une méchante, Amelia est devenue une « waifu » virale (terme d’argot désignant un personnage fictif adoré), apparaissant dans des mèmes générés par IA, des illustrations de style manga et même d’étranges croisements avec Father Ted et Harry Potter.
Les internautes, en particulier sur X, se sont emparés de son image. À l’aide d’outils d’IA largement accessibles, ils ont commencé à générer de nouvelles vidéos et de nouveaux mèmes mettant en scène Amelia. On la voit souvent se promener dans Londres ou à la Chambre des communes, débitant une rhétorique raciste et anti-immigration.
« Nous avons constaté une propagation et une prolifération remarquables du mème au sein de l’extrême droite et au-delà, mais ce qui est également notable, c’est qu’il est désormais international », a déclaré au Guardian Siddharth Venkataramakrishnan, analyste à l’Institute for Strategic Dialogue (ISD).
Le rebondissement de la cryptomonnaie-mème : « la monétisation de la haine »
Puis les choses sont devenues encore plus étranges — et plus financières. Alors que la notoriété d’Amelia explosait en ligne, un jeton de cryptomonnaie anonyme portant son nom a fait son apparition. Des utilisateurs des réseaux sociaux ont commencé à en faire la promotion, tentant de tirer profit de sa popularité virale.
La hausse a été spectaculaire. Une analyse de Peryton Intelligence, entreprise britannique spécialisée dans la désinformation, communiquée au Guardian, a montré que les publications consacrées à Amelia sur X étaient passées d’environ 500 par jour début janvier à plus de 10 000 fin janvier. Même Elon Musk a republié un message faisant la promotion de la cryptomonnaie Amelia.
« Ce que nous observons, c’est la monétisation de la haine », a déclaré Matteo Bergamini, fondateur et directeur général de Shout Out UK, l’entreprise qui a créé le jeu Pathways original. « Nous avons vu des groupes Telegram s’écrire en chinois au sujet de la cryptomonnaie-mème et discuter de la manière de gonfler artificiellement sa valeur ; beaucoup d’argent est donc gagné. »
Les créateurs dans la ligne de mire
Pour Bergamini et son équipe, le succès imprévu de leur propre personnage a entraîné un torrent de violences. L’entreprise a reçu une avalanche de messages haineux et de menaces, qui ont été signalés à la police, selon The Guardian. Il souligne que le jeu Pathways n’a jamais été conçu pour être utilisé seul.
« Il y a malheureusement eu beaucoup de déformations », a déclaré Bergamini au Guardian. « Le jeu n’affirme pas, par exemple, que remettre en question l’immigration de masse est intrinsèquement mauvais. » Il a expliqué qu’il était conçu comme une ressource pédagogique pour la classe à utiliser avec d’autres supports d’enseignement, et que les retours des établissements scolaires restaient positifs.
Il est néanmoins alarmé par la sophistiquée machinerie en ligne qui s’est emparée d’Amelia. « Cette expérience nous a montré pourquoi ce travail est si immensément important, mais elle nous incite aussi à réfléchir à notre sécurité », a-t-il déclaré.
Un programme du ministère de l’Intérieur tient bon
Malgré le chaos en ligne, le gouvernement britannique continue de soutenir l’initiative dans son ensemble. Le ministère de l’Intérieur a déclaré au Guardian que son programme antiterroriste Prevent avait détourné près de 6 000 personnes d’idéologies violentes. Il a ajouté que des projets comme le jeu Pathways « ont été conçus pour cibler les risques locaux de radicalisation et ont été créés et déployés indépendamment du gouvernement ».
L’affaire Amelia soulève néanmoins des questions dérangeantes sur la manière dont des personnages générés par IA peuvent échapper à leur objectif initial et être rapidement réutilisés à des fins d’influence, de profit et de nuisance.
À lire également : les enquêtes sur Grok AI montrent à quelle vitesse les médias synthétiques peuvent dégénérer lorsque les garde-fous échouent.