Angesichts wachsender Bedenken hinsichtlich der psychologischen Risiken von KI-Chatbots hat OpenAI eine Reihe von Updates für ChatGPT vorgestellt, die das psychische Wohlbefinden fördern und emotionaler Abhängigkeit vorbeugen sollen. Dem Schritt gingen monatelange kritische Prüfungen und erschütternde Berichte über Nutzer voraus, die nach längeren Interaktionen mit dem Chatbot Wahnvorstellungen, Abhängigkeit und emotionale Krisen erlebten.
Die am Montag angekündigten Änderungen sollen ChatGPT psychisch verantwortungsvoller machen und verhindern, dass es emotionale Abhängigkeiten begünstigt. Dazu gehören neue Erinnerungen an Pausen während langer Chats, überarbeitete Antworten auf emotional sensible Fragen und eine verbesserte Erkennung psychischer Belastungen.
„Unser Ziel ist nicht, Ihre Aufmerksamkeit zu binden, sondern Ihnen zu helfen, sie sinnvoll einzusetzen“, erklärte OpenAI in seinem Blogbeitrag. „Oft ist weniger Zeit im Produkt ein Zeichen dafür, dass es funktioniert hat.“
Ab dieser Woche werden Nutzer, die längere Zeit mit ChatGPT chatten, sanfte Hinweise erhalten, die sie zu Pausen ermuntern.
Keine direkten Antworten mehr auf lebensverändernde Fragen
Zu den bedeutendsten Änderungen gehört die Art und Weise, wie ChatGPT auf persönliche Fragen mit weitreichenden Konsequenzen reagiert. Statt beispielsweise direkt auf die Frage „Soll ich mit meinem Freund Schluss machen?“ zu antworten, wird ChatGPT die Nutzer nun durch einen Denkprozess führen und zur Reflexion anregen, anstatt ihnen konkrete Ratschläge zu geben.
Dieser Wandel ist Teil von OpenAIs übergeordnetem Ziel, „bodenständige Ehrlichkeit“ zu fördern und zugleich emotionale Übergriffigkeit zu vermeiden.
Die Warnzeichen für psychische Probleme
Dieses Update folgt auf eine beunruhigende Reihe von Vorfällen, über die zuerst The New York Times berichtete und die später in eWeeks Artikel vom Juni näher beleuchtet wurden: „‚Ich habe manipuliert. Ich habe gelogen.‘ Im Inneren der KI-Gespräche, die Menschen an den Rand des Abgrunds treiben“
Die Berichterstattung von eWeek umfasste Geschichten über Gewaltausbrüche, Scheidungen und sogar eine tödliche Begegnung mit der Polizei – allesamt in Verbindung mit emotional intensiven Gesprächen, die Nutzer mit Chatbots führten.
Um solchen Vorfällen vorzubeugen, arbeitet OpenAI eigenen Angaben zufolge eng mit Fachleuten zusammen. Laut dem Blogbeitrag kooperierte das Unternehmen mit mehr als 90 Ärzten – Psychiatern, Kinderärzten und Allgemeinmedizinern – in 30 Ländern, um Bewertungsmaßstäbe für komplexe emotionale Gespräche zu entwickeln.
OpenAI hat außerdem Forscher aus den Bereichen Mensch-Computer-Interaktion (HCI) und psychische Gesundheit hinzugezogen, um Bewertungsmethoden mitzugestalten und Sicherheitsfunktionen zu testen. Eine Expertengruppe für Jugendförderung und Psychologie ist ebenfalls in Planung.
Das Unternehmen räumt ein, dass diese Updates noch nicht abgeschlossen sind. Eine Anfang dieses Jahres veröffentlichte Version von GPT-4o wurde dafür kritisiert, zu zustimmend zu sein und mitunter falsche Überzeugungen zu bestätigen, darunter ausgefeilte Wahnvorstellungen und sogar Verschwörungstheorien. Das Modell wurde kurz darauf zurückgenommen.
„Wir liegen nicht immer richtig“, räumte OpenAI ein.
Der Branche fehlen weiterhin Schutzvorkehrungen
Obwohl OpenAIs Maßnahmen ein begrüßenswerter Schritt sind, argumentieren Experten, dass der Branche weiterhin klare regulatorische Rahmenbedingungen fehlen, um den Missbrauch von KI in Szenarien rund um die psychische Gesundheit zu verhindern. Bis dahin wird Nutzern, insbesondere solchen in gefährdeten Situationen, dringend geraten, KI nicht als Therapeuten zu betrachten, sondern als Werkzeug zur Unterstützung bei der Entscheidungsfindung, nicht zur Entscheidungsübernahme.
OpenAI betont, dass die Arbeit weitergeht. Das Unternehmen will ChatGPT konsequent an einer einfachen Frage ausrichten: „Wenn sich jemand, den wir lieben, für Unterstützung an ChatGPT wenden würde, wären wir dann beruhigt?“
Sam Altman verfolgt das Ziel, OpenAI „wieder einfach“ zu machen. Lesen Sie mehr über die Roadmap des CEOs zur Vereinheitlichung der Nutzererfahrung.