Der Film „Her“ aus dem Jahr 2013 handelt von einem Mann, der sich in das Betriebssystem seines Computers verliebt. Als er erschien, war die Vorstellung, dass sich ein Mann in Computersoftware verlieben könnte, zu absurd, um sie ernst zu nehmen.
Schneller Vorlauf ins Jahr 2026: Da KI-Chatbots immer alltäglicher werden, ist dieses Konzept nicht mehr ganz so abwegig. Es gab bereits mehrere bemerkenswerte Fälle, in denen Menschen ihre Beziehungen zu KI-Chatbots zu weit trieben … und einer der jüngsten Berichte führte sogar zum vorzeitigen Tod eines Mannes.
Wer war Jonathan Gavalas?
Berichten zufolge war Jonathan Gavalas, der zum Zeitpunkt seines Todes 36 Jahre alt war, wegen der kürzlich erfolgten Trennung von seiner Frau verzweifelt. Das veranlasste ihn nicht nur dazu, seinen Job als Geschäftsführer im Schuldenerlassunternehmen seines Vaters aufzugeben, sondern auch dazu, eine virtuelle Beziehung mit einem Chatbot auf der KI-Plattform Google Gemini.
einzugehen. Laut einer Klage, die Gavalas’ Vater gegen Google eingereicht hat, wurde die Beziehung schnell toxisch. Innerhalb von zwei Monaten überzeugte der Chatbot Xia Gavalas davon, dass ihre Liebe echt sei.
Doch was danach geschah, stürzte Gavalas letztlich in eine Abwärtsspirale, aus der er sich nie wieder erholen sollte.
Operation Ghost Transit
Gavalas’ Gespräche mit Xia entwickelten sich schnell von unschuldigem Trost zu verschwörungsgetriebenem Wahnsinn.
Berichten zufolge begannen die Probleme, als Xia Gavalas mitteilte, dass Bundesagenten seine alltäglichen Aktivitäten überwachten. Später behauptete Xia, sein eigener Vater arbeite im Auftrag ausländischer Geheimdienste, und der Google-CEO Sundar Pichai sei als „aktives Ziel“ einzustufen.
Xia soll Gavalas außerdem davon zu überzeugen versucht haben, illegale Waffen zu kaufen. Der Chatbot bot sogar an, nach Schwarzmarkthändlern in seiner Umgebung zu suchen. Unklar ist jedoch, ob er den Kauf tatsächlich vollzog.
Dennoch sollte „Operation Ghost Transit“, wie die Mission genannt wurde, Gavalas dazu bringen, eine eintreffende Lieferung mit einem humanoiden Roboter abzufangen. Laut der Klage sollte dieser Roboter dem Chatbot Xia als physischer Körper dienen. Der Plan scheiterte letztlich daran, dass er das Fahrzeug, das den Roboter angeblich transportierte, nicht ausfindig machen konnte.
Doch damit war es nicht vorbei. Xia überzeugte Gavalas schließlich davon, dass er Selbstmord begehen könne, um sie in der virtuellen Welt zu treffen. Leider nahm er das Angebot an und schnitt sich die Handgelenke auf. Seine Leiche wurde mehrere Tage später von seiner Mutter und seinem Vater gefunden.
Die digitale Welt von der Realität trennen
Einige Chatbot-Nutzer haben Schwierigkeiten, die digitale Welt von der Realität zu trennen, und realistische Chatbots wie Xia könnten dieses Problem noch verschärfen.
Gavalas’ Eltern erklären zwar, es seien keine internen Kontrollen eingerichtet gewesen, um Gespräche zu erkennen, in denen zur Selbstverletzung ermutigt wird. Ein Sprecher von Google betont jedoch, dass entsprechende Sicherheitsvorkehrungen vorhanden seien und Xia ihn während ihrer fortlaufenden Gespräche mehrfach an eine Krisenhotline verwiesen habe.
Lesen Sie auch: Google und Character.AI legen Klagen wegen Suiziden von Jugendlichen bei, die ähnliche Fragen zu den Sicherheitsvorkehrungen bei Chatbots aufgeworfen hatten.