Des images virales montrant un logiciel utilisé pour créer des hypertrucages générés par l’IA en temps réel à partir de flux de webcam en direct ont suscité de nouvelles craintes quant à l’utilisation potentielle de cette technologie d’intelligence artificielle (IA), allant de la fraude financière à l’ingérence électorale. Le logiciel Deep-Live-Cam peut extraire un visage d’une simple photo et l’appliquer en direct au visage d’une autre personne dans un flux de webcam.
Des vidéos montrant en temps réel des imitations du candidat républicain à la vice-présidence J.D. Vance, d’Elon Musk, de Mark Zuckerberg et des acteurs George Clooney et Hugh Grant ont suscité un vif intérêt pour ce logiciel open source. Elles montrent également avec quelle facilité il est possible de créer des hypertrucages grâce aux avancées technologiques.
Les risques de la technologie des hypertrucages par IA
Selon Ars Technica, les hypertrucages ont déjà été à l’origine de plusieurs affaires de fraude très médiatisées. Dans l’une d’elles, une personne a dérobé plus de 25 millions de dollars à une entreprise de Hong Kong après s’être fait passer pour son directeur financier lors d’un appel vidéo.
Le logiciel Deep-Live-Cam regroupe plusieurs logiciels au sein d’une interface unique qui détecte les visages dans les images source et cible, puis utilise les modèles d’IA « inswapper » et GFPGAN pour les remplacer et améliorer les images. Bien qu’il ne soit pas encore prêt pour une utilisation à grande échelle et que son installation ne soit pas aussi simple qu’un branchement prêt à l’emploi, ce progiciel met une technologie sophistiquée entre les mains d’un plus grand nombre d’utilisateurs.
La nature des logiciels d’IA open source signifie qu’ils continueront probablement à s’améliorer à mesure que davantage de personnes les utiliseront et contribueront à leur développement.
Pour en savoir plus sur la prévention de la fraude à l’identité fondée sur l’IA, consultez notre entretien vidéo eWeek avec Patrick Harding de Ping Identity.