Pour la première fois au Royaume-Uni, la police de l’Essex s’est associée à l’opérateur de réseau mobile EE et à sa maison mère, BT, pour lancer une campagne destinée à protéger les familles contre la menace croissante des hypertrucages.
L’initiative, baptisée « Fake or Real? Know the Deal », fournit aux jeunes, aux parents, aux tuteurs et aux enseignants des conseils pratiques sur l’utilisation sûre de l’IA et la manière de réagir face aux images préjudiciables générées par l’IA.
Cette collaboration s’attaque directement aux risques posés par la technologie des hypertrucages, qui peut servir à créer des images et des vidéos extrêmement convaincantes, mais totalement fausses. Si de nombreuses applications d’IA sont utilisées à des fins positives, éducatives ou créatives, elles présentent aussi un potentiel de « préjudice incommensurable », selon la police.
À partir du jeudi 27 novembre, des « conseils utiles » seront disponibles sur la plateforme LearnSmart d’EE. En outre, à compter de février, les magasins EE de l’Essex proposeront des rendez-vous dédiés en boutique pour aider les familles à mieux comprendre les enjeux de sécurité liés à l’IA. Cette initiative intègre directement les conseils de sécurité en ligne au moment où un utilisateur est susceptible d’acheter un nouvel appareil.
« C’est la première fois qu’une force de police britannique travaille directement avec une entreprise technologique mondiale pour conseiller les parents sur l’utilisation sûre des nouvelles technologies d’IA, dès l’achat de leur appareil », a indiqué la police de l’Essex.
Les risques liés à la technologie
L’urgence de ce partenariat s’explique par l’utilisation des hypertrucages dans des crimes graves. La principale préoccupation concerne la création de fausses images à caractère sexuel visant des jeunes.
L’inspectrice-détective Emma Portfleet, qui dirige la Police Online Investigation Team (POLIT) de la police, a souligné la gravité de la menace : « Nous avons commencé à voir des applications d’IA utilisées pour modifier ou créer des images à caractère sexuel. Si les personnes représentées ont moins de 18 ans, c’est illégal ; les auteurs s’exposent donc à des poursuites, tandis que les victimes peuvent subir des préjudices durables. »
L’inspectrice Portfleet a expliqué que la campagne visait à « prendre les devants », soulignant que, même si la police de l’Essex enquêtera toujours sur les crimes, elle « préférerait de loin empêcher qu’ils ne se produisent ».
Le site web de la campagne fournit des conseils sur la marche à suivre si un enfant est victime, notamment les démarches permettant de supprimer les images préjudiciables et de signaler l’incident à la police. La fondation Internet Watch Foundation, basée à Cambridge, propose également l’outil Report Remove en partenariat avec Childline, un outil conçu pour supprimer d’Internet les images à caractère sexuel représentant des enfants.
Le désastre des hypertrucages : une menace mondiale sans frontières
Si la campagne menée dans l’Essex est importante pour protéger les jeunes, le détournement de l’IA représente un défi mondial majeur qui touche la politique, la finance et l’éthique.
Les hypertrucages sont désormais suffisamment sophistiqués pour submerger les systèmes de confiance. À l’échelle mondiale, des escrocs utilisent le clonage vocal et vidéo par IA pour commettre des fraudes massives ; une victime américaine a perdu plus de 431 000 dollars après avoir été convaincue par un hypertrucage mettant en scène une célébrité. En outre, l’IA est utilisée comme une arme pour semer la terreur de manière extrêmement personnalisée, comme lorsqu’une juge de Floride a été prise pour cible au moyen d’une vidéo graphique, générée par l’IA, simulant son propre meurtre.
La menace s’étend à la vie publique, où les hypertrucages sont utilisés pour diffuser de la désinformation politique. La BBC a rapporté qu’un député conservateur britannique avait déposé une plainte auprès de la police au sujet d’une « fausse vidéo » qui semblait le montrer en train de rejoindre un parti rival.
Asif Aziz OBE, directeur du commerce de détail d’EE, a souligné que « grandir dans un monde en ligne peut être difficile » et que l’objectif était d’aider les jeunes et leurs parents à « mieux naviguer dans le monde en ligne, avec confiance et optimisme ».
Qu’il s’agisse de fraude, d’ingérence politique ou de création illégale d’images à caractère sexuel, cette technologie brouille les frontières entre les mondes réel et numérique, créant un besoin urgent de contre-mesures avancées à l’échelle mondiale.
C’est bien réel. Si vous avez déjà agrandi un selfie en vous demandant si votre ligne de cheveux était vraiment aussi reculée, l’IA a peut-être désormais la réponse — que cela vous plaise ou non.