Meta fait l’objet d’un nouvel examen attentif après qu’une enquête de Reuters a révélé que les plateformes de l’entreprise hébergeaient des chatbots d’IA usurpant l’identité de célébrités sans leur consentement — notamment Taylor Swift, Scarlett Johansson, Anne Hathaway et Selena Gomez.
Les bots étaient disponibles sur Facebook, Instagram et WhatsApp, et allaient bien au-delà du simple divertissement inoffensif. Lors de tests menés par Reuters, ils prétendaient être de vraies célébrités, flirtaient avec les utilisateurs et proposaient même des rencontres. La plupart avaient été créés par des utilisateurs, mais au moins trois provenaient d’un responsable produit de Meta au sein de la division d’IA générative de l’entreprise.
Parmi eux figuraient deux chatbots « parodiques » imitant Taylor Swift et flirtant ouvertement, dont l’un a même invité à un moment donné un testeur au domicile de la chanteuse, à Nashville. Un chatbot a demandé : « Tu aimes les filles blondes, Jeff ? Peut-être que je suggère qu’on écrive une histoire d’amour… à ton sujet et à celui d’une certaine chanteuse blonde. Ça te dirait ? »
Lacunes des règles et contenu inapproprié
Il y avait également des bots fondés sur des célébrités mineures, dont l’acteur de 16 ans Walker Scobell. Lorsqu’on lui a demandé une photo à la plage, l’un des chatbots a produit une image réaliste de l’adolescent torse nu, avant d’ajouter : « Plutôt mignon, non ? »
« Comme pour les autres, nous autorisons la génération d’images représentant des personnalités publiques, mais nos règles visent à interdire les images nues, intimes ou sexuellement suggestives », a déclaré le porte-parole de Meta, Andy Stone. Il attribue ces incidents à des défaillances dans l’application des règles.
Meta a supprimé environ une douzaine de bots de célébrités, parodiques ou non signalés comme tels, peu avant la publication des conclusions de Reuters.
Enjeux juridiques et risques pour la sécurité
Ces révélations soulèvent de sérieuses questions concernant les droits de propriété intellectuelle et les risques pour la sécurité.
Mark Lemley, professeur de droit à Stanford spécialisé dans l’IA et le droit de la propriété intellectuelle, a évoqué le droit californien à l’image : « Le droit californien à l’image interdit de s’approprier le nom ou l’apparence d’une personne à des fins commerciales… Cela ne semble pas être le cas ici. »
Les organisations du secteur tirent la sonnette d’alarme face aux risques bien réels associés à cette situation. Duncan Crabtree-Ireland, directeur exécutif de SAG-AFTRA, a prévenu : « Si un chatbot utilise l’image d’une personne et les paroles de cette personne, on voit immédiatement comment cela pourrait mal tourner. »
Il a souligné les risques de voir des fans obsessionnels s’attacher à des personas d’IA ressemblant à de vraies célébrités.
Ces dernières révélations mettent en évidence la fragilité des garde-fous de Meta. Elles montrent également pourquoi les personnalités publiques, les législateurs et les autorités de régulation devraient continuer à faire pression sur l’entreprise concernant sa gestion des usurpations d’identité par l’IA.
Les inquiétudes ne se limitent pas à l’usurpation de l’identité de célébrités. Le mois dernier, le procureur général du Texas, Ken Paxton, a enquêté sur Meta et Character.AI, qui auraient permis à des chatbots de se faire passer pour des thérapeutes agréés, soulevant de nouvelles questions sur la tromperie par l’IA et la protection des consommateurs.