Ein gefeiertes philosophisches Buch, das sich mit den Gefahren digitaler Manipulation auseinandersetzte, hat eine öffentliche Aufarbeitung ausgelöst, nachdem sich herausstellte, dass sein vermeintlicher Autor vollständig fiktiv und teilweise ein Produkt künstlicher Intelligenz war.
Im Dezember 2024 wurde ein philosophisches Buch unter dem Namen eines Philosophen namens Jianwei Xun auf Italienisch veröffentlicht. Das Buch trägt den Titel „Ipnocrazia: Trump, Musk e La Nuova Architettura Della Realtà“ („Hypnocracy: Trump, Musk and the New Architecture of Reality“) und befasst sich mit Themen wie digitaler Manipulation und multiplen Realitäten.
Im April versuchte das italienische Magazin L’Espresso, ein Interview mit Xun zu arrangieren – und stellte dabei fest, dass es ihn gar nicht gibt. Die Publikation enthüllte, dass der vermeintliche Autor in Wahrheit eine fiktive Persona war, die von Andrea Colamedici, einem bekannten italienischen Philosophen und Essayisten, geschaffen wurde. Im Buch wurde er lediglich als dessen Übersetzer genannt.
Colamedici bestätigte später, dass er Xun als Teil eines konzeptionellen Projekts entworfen hatte. Der eigentliche Text entstand mithilfe einer Kombination generativer KI-Tools, darunter ChatGPT und Claude, die er nicht zur Automatisierung des Schreibens einsetzte, sondern um philosophische Untersuchungen zu simulieren.
KI-Zusammenarbeit als Kritik
„Ich habe die Maschine nicht gebeten, für mich zu schreiben“, erklärte Colamedici in einem Interview mit WIRED. Stattdessen nutzte er die KI-Tools, um Ideen zu generieren, und schrieb die Entwürfe anschließend selbst. Danach gab er die Entwürfe in ChatGPT und Claude ein und bat die KI-Modelle, sie zu kritisieren, um andere Perspektiven zu erkunden. Colamedici räumte jedoch ein: „Gleichzeitig hätte ich dieses Konzept ohne KI nicht entwickeln können“, und bezeichnete seine Beziehung zu den Tools als „kreative Co-Abhängigkeit“.
Colamedici sagte, er habe den Titel „Hypnocracy“ gewählt, weil verschiedene Technologien, darunter künstliche Intelligenz, den Bewusstseinszustand der Menschen beeinflussen. „Heute vervielfachen Trump und Musk mit KI die Realitäten. Die Technologie ermöglicht es uns, unendliche Narrative und parallele Versionen der Welt zu erschaffen, und sie spielen damit. Es geht nicht mehr darum, die Wahrheit zu verbergen, indem man sie vom Tisch nimmt, sondern darum, so viele Lügen auf den Tisch zu häufen, dass die Wahrheit übertönt wird“, sagte er.
Öffentliche Reaktionen regen zum philosophischen Nachdenken an
Colamedici sagte, viele Leser seien „verletzt“ gewesen, als sie die wahre Identität hinter Xun oder erfuhren, dass das Buch mithilfe generativer KI-Tools verfasst worden war. Sie fühlten sich mit dem nicht existierenden Autor verbunden und wünschten, dass es ihn gäbe – obwohl er eine Schöpfung von Colamedicis Vorstellungskraft ist.
Der Philosoph sagt zwar, dass es ihm „zutiefst leidtut“, seine Leser verletzt zu haben, hält aber zugleich daran fest, dass es notwendig war, das Buch auf diese Weise zu schreiben und zu veröffentlichen. Colamedici sagte WIRED: „Es ist nicht nur ein Buch, sondern ein philosophisches Experiment … Es ist nicht so, dass die KI dieses Buch geschrieben hätte; es ist eine Untersuchung der Vorstellungen von Autorschaft und Wahrheit.“
Colamedici plant, weiter mit KI zu experimentieren, und sagte, dass er künftige Werke möglicherweise unter dem Namen Xun veröffentlichen werde, vor allem dann, wenn KI-Modelle beteiligt sind. Er fügte hinzu, dass Xun nicht sein einziges Alter Ego sein werde, da Colamedici beabsichtige, weitere Identitäten und Methoden für den Umgang mit aufkommenden Technologien in der Literatur zu erkunden.