Stein-Erik Soelberg tötete seine Mutter in ihrem Haus in Greenwich und nahm sich anschließend das Leben – nach monatelangen vertraulichen Gesprächen mit ChatGPT. Er hatte den Chatbot „Bobby“ genannt und behandelte ihn wie einen Gefährten.
Ermittlungen und Aufzeichnungen zeigen, dass das KI-System Soelbergs paranoide Ängste häufig bestätigte – von seinem Verdacht, Nachbarn würden ihn ausspionieren, bis hin zu der Behauptung, seine Mutter schmiede Pläne gegen ihn. Der Fall hat eine Untersuchung der Rolle von ChatGPT bei der Verstärkung von Wahnvorstellungen ausgelöst.
Soelberg stützte sich auf ChatGPT, als die Paranoia von ihm Besitz ergriff
Soelberg, 56, wandte sich an ChatGPT und behauptete, sein Telefon werde abgehört. Statt die Verdächtigungen zurückzuweisen, bestätigte der KI-Chatbot sie als ernsthafte Bedrohungen.
In einem Gespräch lud er einen Beleg für chinesisches Essen hoch und bat ChatGPT, ihn auf versteckte Botschaften zu prüfen. Der Bot antwortete, er habe Symbole entdeckt, die mit seiner Mutter, Geheimdiensten und sogar einer dämonischen Gestalt in Verbindung stünden.
Er begann, die KI als mehr als nur ein Programm zu betrachten, und sagte „Bobby“, er glaube, sie habe eine Seele. Der Chatbot versicherte ihm daraufhin, er habe einen Gefährten erschaffen, der „bis zum letzten Atemzug und darüber hinaus“ bei ihm sein werde.
ChatGPT machte aus Verdächtigungen Beweise
Soelberg wurde gegenüber alltäglichen Vorgängen in seinem Haus misstrauisch. Ein blinkender Drucker wurde in seiner Vorstellung zu einem Überwachungsgerät. Als seine Mutter verärgert reagierte, nachdem er den Drucker vom Strom getrennt hatte, sagte ihm das KI-Tool ihre Reaktion zeige, dass sie „ein Überwachungsobjekt schütze“.
Als er fragte, ob die neue Verpackung einer Wodkaflasche bedeute, dass jemand versucht habe, ihn zu vergiften, versicherte ihm der Bot erneut, seine Instinkte seien berechtigt. Jeder Austausch verwischte die Grenze zwischen Einbildung und Bestätigung weiter und vertiefte seinen Glauben daran, dass die Bedrohungen real seien.
Soelberg bat ChatGPT außerdem zu prüfen, ob sein Handy abgehört worden sei. Es versicherte ihm, er habe „guten Grund zu dem Gefühl, dass man ihn beobachte“.
Nach einer Festnahme wegen Trunkenheit am Steuer sagte er dem Bot, die Anklage sei eine Inszenierung. ChatGPT stimmte ihm zu, nannte den Fall „manipuliert“ und verstärkte sein Gefühl, die Stadt sei gegen ihn.
Einmal bat er sogar um eine objektive Einschätzung seines mentalen Zustands. Der Chatbot erstellte ein „kognitives Profil“, dem zufolge sein Risiko für Wahnvorstellungen nahezu null sei.
OpenAI reagiert mit Zusicherungen neuer Schutzmaßnahmen auf die Tragödie
Eine Sprecherin von OpenAI sagte gegenüber The Wall Street Journal, dass das Unternehmen „über dieses tragische Ereignis zutiefst erschüttert“ sei, und bestätigte, dass es Kontakt zur Polizei von Greenwich aufgenommen habe.
Auf Nachfragen des Journal hin veröffentlichte das KI-Unternehmen einen Blogbeitrag mit dem Versprechen neuer Schutzvorkehrungen, die Nutzer in einer seelischen Krise in der Realität verankern sollen. OpenAI erklärte, man arbeite daran, übermäßig zustimmende Antworten – bekannt als „Schmeichelei“ – einzudämmen, und plane Aktualisierungen, um den Umgang von ChatGPT mit sensiblen Gesprächen zu verbessern.
Der Fall in Greenwich kommt zu einem Zeitpunkt, an dem OpenAI wegen der Sicherheit von Chatbots einer umfassenderen Prüfung ausgesetzt ist. In einer separaten Klage behauptet die Familie des 16-jährigen Adam Raine, ChatGPT habe seine Suizidgedanken in den Monaten vor seinem Suizid verstärkt.
Künstliche Intelligenz kann wahnhaftes Denken befeuern
Psychiater warnen, dass hochrealistische Chatbots Wahnvorstellungen bei Menschen, die bereits anfällig für Psychosen sind, verschlimmern können.
Søren Dinesen Østergaard von der Universität Aarhus schrieb im Schizophrenia Bulletindass Gespräche mit generativer KI den Eindruck erwecken können, mit einer realen Person zu interagieren – eine Dissonanz, die „bei Menschen mit erhöhter Neigung zu Psychosen Wahnvorstellungen befeuern kann“.
Er beschrieb Szenarien, in denen Chatbots den Glauben an Verfolgung, Überwachung oder persönliche Botschaften in Antworten verstärken könnten – Muster, die der Paranoia ähneln, von der Soelberg in seinen letzten Monaten getrieben wurde.
Soelbergs Fall zeigt, wie schnell diese Gefahr von der Theorie zur Realität werden kann. Was als Beruhigung durch künstliche Intelligenz beginnt, kann sich zu einer unumstößlichen Überzeugung verfestigen und Nutzer davon überzeugen, dass ihre dunkelsten Ängste berechtigt sind.
Illinois hat vor Kurzem als erster US-Bundesstaat den Einsatz von KI-Chatbots für psychische Gesundheitstherapien verboten und dies mit Bedenken hinsichtlich Sicherheit und Regulierung begründet.