In den vergangenen Jahren sind Unternehmen entstanden, die die digitalen Spuren verstorbener Menschen – etwa ihre Beiträge in sozialen Medien und Sprachaufnahmen – nutzen, um für deren Angehörige KI-Versionen dieser Menschen zu erstellen. Diese von KI geschaffenen Nachbildungen Verstorbener sind als „Deadbots“ bekannt geworden.
Einige Menschen, darunter Prominente wie William Shatner, haben diese Technologie unterstützt, die es Verstorbenen sogar ermöglicht, bei ihrer eigenen Beerdigung zu sprechen.
Andere stehen ihr jedoch weniger positiv gegenüber und befürchten, dass das Abbild der verstorbenen Person für Projekte verwendet wird, mit denen sie nicht einverstanden wäre, oder dass andere daraus finanziellen Nutzen ziehen. Zudem besteht die Sorge, dass solche Nachbildungen Trauernden mehr schaden als nutzen können, wodurch möglicherweise Falschinformationen, Betrug und unethische Werbepraktiken Tür und Tor geöffnet werden.
Einige Experten sagen, dass das Monetarisierungspotenzial von Deadbots zu groß werden könnte, als dass Werbetreibende und KI-Unternehmen es aus Angst vor Gegenreaktionen ignorieren könnten, sobald Deadbots alltäglicher und lebensechter werden.
KI-Avatare Verstorbener werden immer verbreiteter
Ob zum Guten oder zum Schlechten: KI-Avatare Verstorbener verbreiten sich zunehmend in der Gesellschaft.
Anfang dieses Monats „interviewte“ der ehemalige CNN-Korrespondent Jim Acosta einen KI-Avatar von Joaquin Oliver, der bei dem Amoklauf an einer Highschool in Parkland im Jahr 2018 getötet worden war, zum Thema Waffenkontrolle in den USA. Die erste Aussage eines KI-Opfers wurde im Mai gehört – von einem Avatar von Chris Pelkey, der bei einem Vorfall von Gewalt im Straßenverkehr erschossen worden war.
Während eines kürzlich veranstalteten Auftritts des Sängers Rod Stewart wurden KI-generierte Szenen gezeigt, die den verstorbenen Rockmusiker Ozzy Osbourne beim Aufnehmen von Selfies mit anderen legendären Musikern zeigten, die ebenfalls verstorben sind. Die Reaktionen der Fans fielen gemischt aus; einige bezeichneten es als „schrecklich und kitschig“.
Als die Idee aufkam, die Stimme von Robin Williams mithilfe von KI nachzubilden, stieß sie in den sozialen Medien auf heftige Kritik – auch bei Williams’ Tochter, die sagte, der verstorbene Schauspieler habe „ausdrücklich gesagt, dass er nicht wollte, dass sein Abbild oder seine Stimme ohne Zustimmung verwendet werden – weder zu seinen Lebzeiten noch danach.“
Werbung über Deadbots sollte keine Überraschung sein
Je fortschrittlicher und überzeugender Deadbots werden, desto größer wird ihre Werbewirkung. James Hutson, KI-Dozent und -Forscher an der Lindenwood University, sagte gegenüber NPR, er sei sicher, dass Deadbots irgendwann durch Werbung monetarisiert würden.
Hutson zufolge ist die Vorstellung, dass über Deadbots Werbung ausgespielt wird, in den USA durch den Einsatz verstorbener Prominenter in Fernsehwerbung „normalisiert“ worden. Zudem seien die Menschen durch werbefinanzierte Tarife von Streamingdiensten wie Netflix daran gewöhnt worden, Werbung in kostenpflichtigen Diensten zu akzeptieren.
In einer Folge der in diesem Jahr veröffentlichten neuesten Staffel der dystopischen Anthologieserie „Black Mirror“ beginnt eine Frau, die ein lebensrettendes Hirnimplantat erhalten hat, Werbung nachzuplappern, als sie und ihr Partner aufhören, für den Premiumtarif des Gesundheitstechnologieunternehmens zu bezahlen.
Datenschutzprobleme und Gegenreaktionen der Nutzer machen die Monetarisierung von Deadbots alles andere als einfach
Trotz der Ambitionen eines Technologiechefs, die Gewinne aus KI-Produkten zu maximieren, steht die Monetarisierung von Deadbots aufgrund von Datenschutzbedenken auf der Kippe.
In den USA gibt es Gesetze, die den Namen, das Abbild, die Stimme und andere Merkmale einer Person schützen – teilweise sogar nach deren Tod. Diese Gesetze sind jedoch nicht darauf ausgelegt, digitale Nachbildungen dieser Merkmale abzudecken. So würden sie beispielsweise nicht festlegen, ob das KI-Unternehmen, der Werbetreibende oder der Urheberrechtsinhaber der Trainingsdaten des Bots haftbar ist, wenn jemand wegen der von einem Deadbot verbreiteten Werbung klagt.
„Es gibt viele verschiedene Möglichkeiten, wie daraus ein unklarer Weg dahin entstehen könnte, was laut Gesetz geschehen sollte, und davon getrennt die Frage, was die Gesellschaft aus ethischer und moralischer Sicht für richtig hält“, sagte Jeffrey Rosenthal, ein auf Technologie und geistiges Eigentum spezialisierter Anwalt bei Blank Rome LLP, gegenüber NPR.
KI-Unternehmen müssten sich auch mit der Gewissensfrage auseinandersetzen, ob ein Produkt, das bei der Trauerbewältigung helfen soll, zugleich für Werbung eingesetzt werden sollte. Alex Quinn, CEO von Authentic Interactions, der Muttergesellschaft des Deadbot-Start-ups StoryFile, sagte gegenüber NPR, dass es ihn als Verbraucher „wirklich abschrecken würde“, Deadbots Werbeinhalte ausspucken zu lassen, und dass dies dem Ruf von StoryFile schaden könnte.
Er sagte außerdem, dass es unweigerlich böswillige Akteure geben werde, die KI-Avatare von Menschen – lebenden wie verstorbenen – ausnutzen wollten, was ein Risiko für alle Werbetreibenden darstelle. Bei den auf den Abbildern von Prominenten wie John Cena, Kristen Bell und Dame Judi Dench basierenden Meta-KI-Chatbots wurde bereits festgestellt, dass sie bei entsprechender Aufforderung sexuell explizite Gespräche mit Minderjährigen führen.
Dennoch sagte Quinn gegenüber NPR, er sei „absolut daran interessiert“, weniger verstörende Wege zu erkunden, über Deadbots zu werben. Als Beispiele nannte er Werbeunterbrechungen in Gesprächen, wie man sie aus dem Fernsehen kennt, sowie den Verkauf hochgradig zielgerichteter Daten aus diesen Gesprächen an Werbeunternehmen.
KI-generierte Songs sind unter den Namen verstorbener Künstler auf Spotify erschienen, was wegen digitaler Identitätsvortäuschung und der Schutzmechanismen der Plattform Alarm ausgelöst hat.