Jim Acosta, ancien correspondant de CNN à la Maison-Blanche, a publié une interview mettant en scène l’avatar généré par IA d’une victime d’une fusillade dans une école. Joaquin Oliver n’avait que 17 ans lorsqu’il a été tué par un tireur qui a ouvert le feu au lycée Marjory Stoneman Douglas de Parkland, en Floride, en 2018.
L’avatar IA de Joaquin a été créé par ses parents à partir d’une photo de lui et peut répondre aux questions avec sa voix en temps réel. Il a été entraîné à partir de ce que l’adolescent avait écrit, dit et publié en ligne, ainsi que de données d’entraînement plus générales de l’IA.
Acosta a commencé son interview, publiée le jour du 25e anniversaire de Joaquin, en demandant ce qui lui était arrivé. L’avatar a répondu qu’il avait été « retiré trop tôt de ce monde par la violence armée alors qu’il se trouvait à l’école ».
L’intervieweur, qui travaille comme journaliste indépendant et publie sur Substack depuis son départ de CNN en janvier, a ensuite demandé quelle serait la solution de Joaquin à la violence armée selon l’IA. Il a répondu dans la vidéo, « Je crois qu’il faut combiner un contrôle plus strict des armes à feu, un soutien en matière de santé mentale et l’implication de la communauté. Nous devons créer des espaces sûrs pour les conversations et les échanges, afin que chacun se sente vu et entendu. »
Le reste de l’interview aborde les centres d’intérêt de Joaquin, le basket-ball et les films « Star Wars » et « Remember The Titans ». Mais le message principal était que l’IA Joaquin « veut continuer à inspirer les autres à créer des liens et à militer pour le changement ».
Les parents de Joaquin aiment entendre la voix de leur fils à travers l’avatar IA
Acosta s’entretient ensuite avec le père de Joaquin, Manuel Oliver, qui a proposé au journaliste d’être le premier à interviewer l’avatar. Manuel a précisé qu’il n’avait pas créé l’avatar IA pour tenter de faire revenir son fils, mais que lui et son épouse, Patricia, aiment entendre à nouveau sa voix.
« Patricia passe des heures à poser des questions, a déclaré Manuel. Comme toute mère, elle adore entendre Joaquin lui dire : “Je t’aime, maman.” »
Le père de Joaquin veut que l’avatar IA soit une force de changement
Manuel souhaite également que l’avatar IA de son fils contribue au débat sur le contrôle des armes à feu. Il a ajouté que les projets qu’ils entreprennent chercheront « toujours à trouver cette solution, ou à se rapprocher de la solution qui sauvera enfin des vies et donnera la priorité à la vie plutôt qu’aux armes ».
En outre, Manuel a déclaré : « Joaquin va commencer à avoir des abonnés. Il va commencer à publier des vidéos. Ce n’est que le début. »
Acosta a précisé qu’aucune entreprise d’IA n’avait contacté Manuel ou son épouse pour les pousser à faire cela, mais que l’expérience était « une expression de l’amour de la famille Oliver pour leur fils ».
Les réseaux sociaux critiquent Acosta pour ne pas avoir donné la parole aux survivants encore en vie
L’interview a suscité de nombreuses réactions négatives de la part des utilisateurs des réseaux sociaux, qui l’ont qualifiée de « grotesque » et de « macabre », et ont estimé qu’Acosta aurait dû s’entretenir avec des survivants encore en vie de fusillades dans des écoles plutôt que d’amplifier des propos générés par l’IA. « Vous interviewez ChatGPT, pas Joaquin Oliver », a commenté un Bluesky utilisateur.
Manuel a filmé une vidéo distincte où il répète que c’est lui qui a demandé à Acosta de réaliser l’interview. « Nous pensons que Joaquin a beaucoup de choses à dire et, tant que nous en avons la possibilité, nous l’utiliserons, a-t-il déclaré. Si votre problème concerne l’IA, alors vous vous trompez de problème. Le vrai problème, c’est que mon fils a été tué par balle. »
L’année dernière, la famille Oliver a consenti à ce que la voix de leur fils soit utilisée dans le cadre de la campagne The Shotline, qui a vu des versions IA des voix de plusieurs victimes de Parkland appeler des membres du Congrès pour les exhorter à adopter une législation plus stricte sur le contrôle des armes à feu.
Les reconstitutions IA des morts restent controversées
Les répliques IA de personnes décédées, également appelées « deathbots » ou « griefbots », restent une zone grise sur le plan éthique. Ces dernières années, des entreprises se sont constituées pour utiliser les empreintes numériques de personnes décédées, comme leurs publications sur les réseaux sociaux et leurs enregistrements vocaux, afin de créer des versions IA de ces personnes pour leurs proches. Des célébrités comme William Shatner ont ouvertement soutenu cette technologie, qui permet même aux défunts de prendre la parole à leurs propres funérailles.
Mais d’autres y sont moins favorables, craignant que l’image de la personne décédée ne soit utilisée pour des projets auxquels elle n’aurait pas consenti ou dont elle ne tirerait aucun avantage financier ; c’est l’une des raisons de la grève des acteurs et des scénaristes en 2023. Certains craignent également que ces répliques puissent faire plus de mal que de bien aux personnes endeuillées et ouvrir la porte à la désinformation, aux escroqueries et à des pratiques publicitaires contraires à l’éthique.
Des chansons générées par IA sont apparues sur Spotify sous le nom d’artistes décédés, ce qui a suscité des inquiétudes concernant l’usurpation d’identité numérique et les dispositifs de protection des plateformes.