Un livre de philosophie salué, qui s’attaquait aux dangers de la manipulation numérique, a suscité une remise en question publique après qu’il est apparu que son prétendu auteur était entièrement fictif et que l’ouvrage était en partie le produit de l’intelligence artificielle.
En décembre 2024, un livre de philosophie a été publié en italien sous le nom d’un philosophe appelé Jianwei Xun. Intitulé « Ip nocrazia: Trump, Musk e La Nuova Architettura Della Realtà » (« Hypnocratie : Trump, Musk et la nouvelle architecture de la réalité »), il explore les thèmes de la manipulation numérique et des réalités multiples.
En avril, le magazine italien L’Espresso a tenté d’organiser un entretien avec Xun — pour découvrir finalement qu’il n’existait pas. La publication a révélé que le prétendu auteur était en réalité un personnage fictif créé par Andrea Colamedici, un philosophe et essayiste italien bien connu, qui n’était crédité dans le livre que comme son traducteur.
Colamedici a confirmé par la suite avoir conçu Xun dans le cadre d’un projet conceptuel. Le texte proprement dit a été élaboré à l’aide d’une combinaison d’outils d’IA générative, notamment ChatGPT et Claude, qu’il n’a pas utilisés pour automatiser l’écriture, mais pour simuler une réflexion philosophique.
La collaboration avec l’IA envisagée comme une critique
« Je n’ai pas demandé à la machine d’écrire à ma place », a expliqué Colamedici dans un entretien avec WIRED ; il a plutôt utilisé les outils d’IA pour générer des idées, puis a rédigé lui-même les brouillons. Il a ensuite soumis ces brouillons à ChatGPT et Claude et demandé aux modèles d’IA de les critiquer, afin d’explorer d’autres perspectives. Colamedici a toutefois admis que « dans le même temps, je n’aurais pas pu concevoir ce projet sans l’IA » et a qualifié sa relation avec ces outils de « dépendance créative ».
Colamedici a expliqué avoir choisi le titre «Hypnocracy» parce que différentes technologies, notamment l’intelligence artificielle, influencent les états de conscience des individus. « Aujourd’hui, Trump et Musk multiplient les réalités grâce à l’IA. La technologie nous permet de créer des récits infinis, des versions parallèles du monde, et ils jouent avec cela. Il ne s’agit plus de cacher la vérité en la retirant de la table, mais d’empiler tellement de mensonges sur la table que la vérité est étouffée », a-t-il déclaré.
La réaction du public suscite une réflexion philosophique
Colamedici a déclaré que de nombreux lecteurs avaient été « blessés » en découvrant la véritable identité de Xun, ou en apprenant que le livre avait été écrit à l’aide d’outils d’IA générative. Ils s’étaient sentis liés à l’auteur inexistant et auraient souhaité qu’il existe, alors même qu’il est une création de l’imagination de Colamedici.
Si le philosophe affirme « regretter profondément » d’avoir blessé ses lecteurs, il maintient également qu’il était nécessaire d’écrire et de publier le livre de cette manière. Colamedici a déclaré à WIRED : « Ce n’est pas seulement un livre, mais une expérience philosophique… Ce n’est pas l’IA qui a écrit ce livre : c’est une enquête sur les notions d’auteur et de vérité. »
Colamedici prévoit de continuer à expérimenter avec l’IA et a déclaré qu’il pourrait publier de futurs ouvrages sous le nom de Xun, principalement lorsque des modèles d’IA sont impliqués. Il a ajouté que Xun ne serait pas son seul alter ego, Colamedici ayant l’intention d’explorer d’autres identités et méthodes pour interagir avec les technologies émergentes dans la littérature.