L’intelligence artificielle a franchi un nouveau seuil glaçant, en créant des menaces de mort si réalistes qu’elles trompent les forces de l’ordre et terrorisent les victimes comme jamais auparavant.
La juge floridienne Jennifer Johnson a reçu ce qui ressemblait à un extrait de jeu vidéo dans le style de Grand Theft Auto. Puis elle a compris qu’il représentait son propre meurtre avec force détails.
La vidéo violente générée par l’IA montrait un agresseur animé suivant une femme dans la rue, puis la tuant à coups de hache et de pistolet, tandis qu’une voix off déclarait : « Juge Johnson, enterrons la hache de guerre », selon The New York Times le 31 octobre.
Compte tenu de la nature humaine, il n’est peut-être pas surprenant que les technologies conçues pour nous simplifier la vie rendent désormais les menaces plus vraies et plus proches. Des vidéos d’actualité générées par l’IA utilisées pour faire chanter des victimes aux simulations d’assassinat en deepfake visant des juges, les criminels instrumentalisent tout, du clonage vocal aux faux journaux télévisés, créant une nouvelle forme de terreur numérique difficile à repérer et encore plus difficile à écarter.
Des jours sombres à venir
L’affaire Johnson montre à quel point ces attaques sont devenues sophistiquées. La vidéo ne s’arrêtait pas à la violence animée : elle énumérait des détails profondément personnels, mentionnant « mon divorce, mon remariage, mon changement de nom, mes enfants, l’endroit où je vis et celui où je travaille », a-t-elle révélé.
Les forces de l’ordre ont d’abord écarté la menace, mais cinq mois se sont écoulés avant que les autorités ne la prennent au sérieux. L’auteur a finalement été condamné et a écopé de la peine maximale de 15 ans de prison.
Mais l’expérience de Johnson n’est qu’un début. Il y a trois semaines, une analyse de sécurité a révélé que les groupes extrémistes utilisent de plus en plus des outils d’IA, notamment des chatbots, des images deepfake et des contenus génératifs, pour automatiser et amplifier la désinformation tout en favorisant l’autoradicalisation d’individus isolés, selon CBS News.
Le bulletin avertit qu’à mesure que « les contenus générés par l’IA commencent à produire des images toujours plus réalistes, la frontière entre le vrai et le faux s’estompe », rendant les contenus menaçants mensongers plus crédibles.
Plus tôt cette année, lorsqu’un Tesla Cybertruck a explosé devant le Trump International Hotel de Las Vegas, les enquêteurs ont découvert que l’assaillant aurait utilisé ChatGPT pour recueillir des informations sur les explosifs et préparer l’attaque.
Le shérif de Las Vegas, Kevin McMahill, a déclaré qu’il s’agissait du « premier incident dont j’ai connaissance sur le sol américain où ChatGPT a été utilisé pour aider quelqu’un à fabriquer un dispositif particulier », qualifiant l’événement de « moment préoccupant ».
Des années à vivre dangereusement
La technologie à l’origine de ces menaces évolue à une vitesse fulgurante. En mai, le FBI a documenté une campagne coordonnée reposant sur des techniques d’hameçonnage par SMS et d’hameçonnage vocal dopées à l’IA, visant des responsables gouvernementaux depuis avril.
Ces attaques utilisent des voix générées par l’IA qu’il est difficile de distinguer d’appels ou de messages vocaux authentiques, ce qui les rend particulièrement efficaces pour instaurer la confiance avant d’obtenir des informations sensibles.
En mars, une étude du UK’s Turing Institute a révélé « des preuves nombreuses et de plus en plus manifestes d’une accélération substantielle de la criminalité facilitée par l’IA ». Les organisations criminelles tirent parti de la capacité de l’IA à « automatiser et à accroître rapidement le volume des activités criminelles », tandis que les facultés de tromperie de cette technologie correspondent parfaitement aux vulnérabilités psychologiques humaines. L’étude a conclu que cette menace « pourrait s’accélérer encore plus rapidement au cours des cinq prochaines années » si des contre-mesures ne sont pas « rapidement adoptées ».
Le plus inquiétant, c’est l’ampleur du phénomène. Les criminels utilisent désormais le clonage vocal par IA pour créer des messages audio convaincants, la technologie vidéo deepfake pour simuler des images réalistes et des outils automatisés pour recueillir des informations personnelles afin de mener des campagnes de harcèlement plus ciblées. Une étude publiée l’an dernier montre que seuls 61 % des participants pouvaient distinguer les personnes générées par l’IA des personnes réelles, selon l’University of Waterloo.
Des profils publics, des périls bien réels
Les conséquences vont bien au-delà des cibles très en vue. Il y a huit mois, une analyse a montré que plus de 2 200 menaces directes contre des PDG avaient été recensées en seulement cinq semaines après le meurtre très médiatisé d’un dirigeant d’entreprise, les cadres étant désormais exposés à des risques croissants liés à la désinformation pilotée par l’IA, aux attaques deepfake et au harcèlement en ligne, révèle une recherche de Nisos.
Depuis le début de l’année, les cas de doxxing et de swatting ont fortement augmenté. Les enquêteurs ont constaté que l’accessibilité croissante des outils d’IA et des technologies automatisées de collecte de données avait amplifié l’ampleur, la précision et l’anonymat avec lesquels ces attaques sont menées. Les outils automatisés de collecte de données permettent aux acteurs malveillants de constituer des profils personnels avec un minimum d’efforts, tandis que les contenus synthétiques, notamment le clonage vocal et la manipulation d’images, rendent les faux signalements plus convaincants.
Les services chargés de l’application de la loi peinent à suivre le rythme. Les autorités britanniques ont conclu que « les forces de l’ordre ne disposent pas des moyens suffisants pour prévenir, perturber ou enquêter sur la criminalité facilitée par l’IA », ce qui a conduit à recommander la création d’une nouvelle cellule spécialisée dans la criminalité liée à l’IA. Plus préoccupant encore, des avertissements publics du FBI et de grands médias ont signalé l’utilisation croissante de voix générées par l’IA dans les faux appels d’urgence tout au long de cette année.
La multiplication des menaces de mort générées par l’IA représente bien plus qu’une simple avancée technologique dans les méthodes criminelles : elle constitue un bouleversement fondamental qui rend le monde numérique plus dangereux pour toute personne ayant une présence publique.
À moins que les systèmes de réponse ne rattrapent leur retard, la situation empirera avant de s’améliorer.
En août, une arnaque par deepfake d’IA mettant en scène une vedette de feuilleton télévisé a escroqué une femme de 431 000 dollars US.