Au cours des dernières années, des entreprises ont vu le jour avec pour objectif d’utiliser les empreintes numériques de personnes décédées, comme leurs publications sur les réseaux sociaux et leurs enregistrements vocaux, afin de créer des versions IA de ces personnes pour leurs proches. Ces répliques de personnes décédées créées par l’IA sont désormais connues sous le nom de « deadbots ».
Certaines personnes, notamment des célébrités comme William Shatner, se sont montrées favorables à cette technologie, qui permet même aux défunts de prendre la parole à leurs propres funérailles.
Cependant, d’autres y sont moins favorables et craignent que l’image de la personne décédée soit utilisée pour des projets auxquels elle se serait opposée ou dont elle tirerait un avantage financier. Des inquiétudes existent également quant au fait que de telles répliques puissent faire plus de mal que de bien aux personnes en deuil, ouvrant potentiellement la voie à la désinformation, aux escroqueries et à des pratiques publicitaires contraires à l’éthique.
Selon certains experts, à mesure que les deadbots se banalisent et deviennent plus réalistes, leur potentiel de monétisation pourrait devenir trop important pour que les annonceurs et les entreprises d’IA l’ignorent par crainte d’un retour de bâton.
Les avatars IA de personnes décédées se répandent
Pour le meilleur ou pour le pire, les avatars IA de personnes décédées se répandent de plus en plus dans la société.
Au début du mois, l’ancien correspondant de CNN Jim Acosta a « interviewé » un avatar IA de Joaquin Oliver, tué lors de la fusillade survenue dans un lycée de Parkland en 2018, au sujet du contrôle des armes à feu aux États-Unis. La première déclaration d’une victime générée par l’IA a été entendue en mai avec un avatar de Chris Pelkey, tué par balle lors d’un incident de conduite agressive.
Lors d’un récent concert du chanteur Rod Stewart, des scènes générées par IA ont été diffusées, montrant le défunt rocker Ozzy Osbourne prenant des selfies avec d’autres musiciens emblématiques décédés. Les réactions des fans ont été mitigées, certains qualifiant le résultat de « terrible et ringard ».
Par ailleurs, lorsque l’idée de recréer la voix de Robin Williams à l’aide de l’IA a été évoquée par l’un de ses partenaires à l’écran, elle a suscité de vives réactions sur les réseaux sociaux, notamment de la part de la fille de Williams, qui a déclaré que l’acteur défunt avait « explicitement dit qu’il ne voulait jamais que son image ou sa voix soient utilisées sans son consentement — de son vivant comme après sa mort ».
La publicité via les deadbots ne devrait pas être une surprise
À mesure que les deadbots deviennent plus avancés et plus convaincants, leur pouvoir publicitaire se renforce. James Hutson, enseignant et chercheur en IA à la Lindenwood University, a déclaré à NPR qu’il était certain que les deadbots finiraient par être monétisés au moyen de publicités.
Selon Hutson, l’idée d’insérer des publicités dans les deadbots s’est « normalisée » aux États-Unis, du fait de l’utilisation de célébrités décédées dans des spots télévisés. Les utilisateurs ont également été habitués à accepter la publicité dans les services payants via les formules financées par la publicité des services de streaming, comme Netflix.
Un épisode de la dernière saison de la série d’anthologie dystopique « Black Mirror », sortie cette année, montrait une femme ayant reçu un implant cérébral qui lui sauvait la vie se mettant à réciter des publicités lorsque son partenaire et elle ont cessé de payer la formule premium de l’entreprise spécialisée dans les technologies de santé.
Les problèmes de confidentialité et le rejet des utilisateurs compliquent fortement la monétisation des deadbots
Malgré les ambitions d’un dirigeant du secteur technologique de maximiser les profits générés par les produits d’IA, la question de la confidentialité menace la monétisation des deadbots.
Aux États-Unis, des lois protègent le nom, l’image, la voix et d’autres caractéristiques d’une personne, parfois même après sa mort ; toutefois, ces lois ne sont pas conçues pour couvrir les répliques numériques de ces caractéristiques. Par exemple, elles ne détermineraient pas lequel de l’entreprise d’IA, de l’annonceur ou du détenteur des droits d’auteur sur les données d’entraînement du bot serait responsable si quelqu’un intentait une action en justice à propos d’un deadbot débitant des publicités.
« Il existe de nombreuses façons dont cela pourrait aboutir à une situation confuse quant à ce que la loi prévoit, puis, indépendamment, quant à ce que la société estime devoir se produire d’un point de vue éthique et moral », a déclaré à NPR Jeffrey Rosenthal, avocat chez Blank Rome LLP spécialisé dans les technologies et la propriété intellectuelle.
Les entreprises d’IA devraient également se confronter à leur conscience pour déterminer si un produit conçu pour aider les personnes en deuil devrait aussi être utilisé à des fins publicitaires. Alex Quinn, directeur général d’Authentic Interactions, la société mère de la start-up de deadbots StoryFile, a déclaré à NPR que permettre aux deadbots de déverser du contenu publicitaire « le rebuterait vraiment en tant que consommateur » et pourrait nuire à la réputation de StoryFile.
Il a également déclaré qu’il y aurait inévitablement des acteurs malveillants cherchant à exploiter les avatars IA de personnes, vivantes ou décédées, ce qui représenterait un risque pour les annonceurs. Il a déjà été constaté que les chatbots Meta AI, fondés sur l’image de célébrités comme John Cena, Kristen Bell et Dame Judi Dench, pouvaient avoir des conversations à caractère sexuel explicite avec des mineurs lorsqu’ils y étaient incités.
Néanmoins, Quinn a déclaré à NPR qu’il était « absolument intéressé » par l’exploration de méthodes moins dérangeantes pour faire de la publicité via les deadbots. Il a cité comme exemples des coupures publicitaires au cours des conversations, comme à la télévision, ainsi que la vente de données très ciblées issues de ces conversations à des entreprises de publicité.
Des chansons générées par l’IA sont apparues sur Spotify sous le nom d’artistes décédés, suscitant des inquiétudes concernant l’usurpation d’identité numérique et les mesures de protection des plateformes.