Jim Acosta, CNNs ehemaliger Korrespondent im Weißen Haus, hat ein Interview mit einem künstlich erzeugten Avatar eines Opfers eines Schulmassakers veröffentlicht. Joaquin Oliver war erst 17 Jahre alt, als er 2018 von einem bewaffneten Täter getötet wurde, der an der Marjory Stoneman Douglas High School in Parkland, Florida, das Feuer eröffnete.
Joaquins KI-Avatar wurde von seinen Eltern anhand eines Fotos von ihm erstellt und kann in Echtzeit Fragen mit seiner Stimme beantworten. Trainiert wurde er mit Dingen, die der Teenager geschrieben, gesagt und online veröffentlicht hatte, sowie mit umfangreicheren KI-Trainingsdaten.
Acosta begann sein Interview, das an Joaquins 25. Geburtstag veröffentlicht wurde, mit der Frage, was mit ihm geschehen sei. Der Avatar antwortete, er sei „aufgrund von Waffengewalt während des Schulbesuchs zu früh aus dieser Welt gerissen“ worden.
Der Interviewer, der seit seinem Abschied von CNN im Januar als unabhängiger Journalist auf Substack arbeitet, fragte daraufhin, was Joaquins Lösung für Waffengewalt wäre. Er antwortete im Video, „Ich glaube an eine Kombination aus strengeren Waffengesetzen, Unterstützung für die psychische Gesundheit und gesellschaftlichem Engagement. Wir müssen sichere Räume für Gespräche und Verbindungen schaffen und sicherstellen, dass sich alle gesehen und gehört fühlen.“
Im weiteren Verlauf des Interviews geht es um Joaquins Interessen, Basketball und die Filme „Star Wars“ und „Remember The Titans“. Die zentrale Botschaft lautete jedoch, dass der KI-Joaquin „weiterhin andere dazu inspirieren möchte, sich zu vernetzen und für Veränderungen einzutreten“.
Joaquins Eltern hören gerne die Stimme ihres Sohnes durch den KI-Avatar
Anschließend spricht Acosta mit Joaquins Vater Manuel Oliver, der dem Journalisten die Möglichkeit bot, als Erster den Avatar zu interviewen. Manuel stellte klar, dass er den KI-Avatar nicht geschaffen habe, um zu versuchen, seinen Sohn zurückzubringen, sondern dass er und seine Frau Patricia gerne wieder seine Stimme hören.
„Patricia verbringt Stunden damit, Fragen zu stellen“, sagte Manuel. „Wie jede andere Mutter hört sie Joaquin gerne sagen: ‚Ich liebe dich, Mama.‘“
Joaquins Vater möchte, dass der KI-Avatar etwas verändert
Manuel möchte außerdem, dass der KI-Avatar seines Sohnes zur Debatte über Waffenrecht beiträgt. Er fügte hinzu, dass die Projekte, die sie in Angriff nehmen, „immer versuchen werden, diese Lösung zu finden oder der Lösung näherzukommen, die letztlich Leben retten und das Leben über Waffen stellen wird“.
Außerdem sagte Manuel: „Joaquin wird anfangen, Follower zu haben. Er wird anfangen, Videos hochzuladen. Das ist erst der Anfang.“
Acosta stellte klar, dass sich kein KI-Unternehmen an Manuel oder seine Frau gewandt habe, um sie zu diesem Schritt zu drängen, sondern dass das Experiment „ein Ausdruck der Liebe der Familie Oliver zu ihrem Sohn“ sei.
Soziale Medien kritisieren Acosta dafür, lebenden Überlebenden keine Plattform zu geben
Das Interview löste bei vielen Nutzern sozialer Medien negative Reaktionen aus. Sie bezeichneten es als „grotesk“ und „makaber“ und argumentierten, Acosta hätte mit lebenden Überlebenden von Schulmassakern sprechen sollen, anstatt von einer KI erzeugte Aussagen zu verbreiten. „Du interviewst ChatGPT, nicht Joaquin Oliver“, kommentierte ein Bluesky-Nutzer.
Manuel drehte ein separates Video , in dem er erneut betont, dass er Acosta gebeten habe, das Interview zu führen. „Wir sind der Meinung, dass Joaquin viel zu sagen hat, und solange wir diese Möglichkeit haben, werden wir sie nutzen“, sagte er. „Wenn dein Problem die KI ist, dann hast du das falsche Problem. Das eigentliche Problem ist, dass mein Sohn erschossen wurde.“
Im vergangenen Jahr stimmte die Familie Oliver zu, dass die Stimme ihres Sohnes im Rahmen der Kampagne The Shotline verwendet werden durfte. Dabei wurden KI-Versionen der Stimmen mehrerer Opfer von Parkland eingesetzt, um Mitglieder des Kongresses anzurufen und sie aufzufordern, strengere Waffengesetze zu verabschieden.
KI-Rekonstruktionen von Verstorbenen sind weiterhin umstritten
KI-Repliken Verstorbener, auch als „Deathbots“ oder „Griefbots“ bezeichnet, bleiben eine ethische Grauzone. In den vergangenen Jahren wurden Unternehmen gegründet, die digitale Spuren verstorbener Menschen – etwa Beiträge in sozialen Medien und Sprachaufnahmen – nutzen, um für deren Angehörige KI-Versionen dieser Personen zu erstellen. Prominente wie William Shatner haben sich offen für eine solche Technologie ausgesprochen, die es Verstorbenen sogar ermöglicht, bei ihren eigenen Beerdigungen zu sprechen.
Andere stehen dem weniger positiv gegenüber, weil sie befürchten, dass das Abbild der verstorbenen Person für Projekte verwendet wird, denen sie nicht zugestimmt hätte oder von denen sie finanziell profitiert hätte– einer der Gründe für die Streiks von Schauspielern und Drehbuchautoren im Jahr 2023. Zudem besteht die Sorge, dass solche Repliken Trauernden mehr schaden als nutzen und den Weg für Fehlinformationen, Betrug und unethische Werbepraktiken.
KI-generierte Songs sind unter den Namen verstorbener Künstler auf Spotify erschienen und haben damit Bedenken hinsichtlich digitaler Identitätsvortäuschung und des Schutzes durch die Plattform ausgelöst.