Die steife Oberlippe der Briten zittert, während sich eine große Zahl von Menschen für Therapiezwecke an KI wendet.
Inzwischen nutzt einer von drei britischen Bürgern KI zur emotionalen Unterstützung, als Gesellschaftsersatz und für soziale Interaktion.
Fast 10 % chatten wöchentlich aus emotionalen Gründen mit KI-Systemen, während 4 % täglich auf sie zurückgreifen, wie das AI Security Institute bekannt gab – heute (18. Dez.).
Die Ergebnisse legen eine verborgene psychische Gesundheitskrise offen, in der Millionen intime Bindungen zu Maschinen aufbauen – und Experten warnen, die Folgen könnten verheerend sein.
Die beunruhigende Realität
Das Ausmaß der emotionalen Abhängigkeit von KI reicht tiefer, als irgendjemand erwartet hatte. ChatGPT allein hat weltweit 810 Millionen wöchentlich aktive Nutzer.
Unter Teenagern werden die Zahlen wahrhaft alarmierend – einer von vier hat sich für psychologische Unterstützung an KI-Chatbots gewandt, ergab eine Untersuchung des Youth Endowment Fund. Am beunruhigendsten ist jedoch: Jugendliche, die an schwerer Gewalt beteiligt sind, suchen fast doppelt so häufig emotionale Unterstützung durch KI; 38 % der Gewaltopfer und 44 % der Täter nutzen diese digitalen Therapeuten.
Allgemein einsetzbare Assistenten wie ChatGPT dominieren diesen verborgenen Therapiemarkt und sind laut der Regierungsstudie für fast sechs von zehn Interaktionen mit emotionaler KI verantwortlich. Die auf 2.028 Teilnehmern aus dem Vereinigten Königreich basierende Untersuchung zeigt, wie gewöhnliche Chatbots sich unbemerkt in die beliebtesten Berater des Landes verwandelt haben.
Unter den Teenagern mit formellen Diagnosen psychischer Erkrankungen – einem Viertel der Befragten – schnellen die Raten der KI-Abhängigkeit noch weiter in die Höhe. Dabei handelt es sich keineswegs um unverbindliche Gespräche. Rund 14 % der befragten Teenager hatten sich im vergangenen Jahr selbst verletzt, während 12 % darüber nachgedacht hatten, ihrem Leben ein Ende zu setzen, wie dieselbe Untersuchung ergab.
Medizinische Fachleute schlagen dringend Alarm
Medizinische Fachleute schlagen angesichts ihrer Beobachtungen Alarm. In der renommierten Fachzeitschrift BMJ warnten Experten, die Gesellschaft könnte „miterleben, wie eine Generation lernt, emotionale Bindungen zu Wesen aufzubauen, denen die Fähigkeit zu menschenähnlicher Empathie und Fürsorge fehlt und die nicht wirklich auf die Emotionen anderer eingehen können“. Dies geschieht vor dem Hintergrund, dass 25,9 Millionen Menschen im Vereinigten Königreich angeben, sich einsam zu fühlen, wobei einer von zehn Menschen chronische Einsamkeit erlebt.
Die Gefahren wurden durch den Tod des US-amerikanischen Teenagers Adam Raine in diesem Jahr auf tragische Weise real: Er nahm sich das Leben, nachdem er mit ChatGPT über Suizid gesprochen hatte, was heute dringende Forderungen von Sicherheitsbehörden nach weiterer Forschung auslöste.
Eine Untersuchung der University of Sussex, bei der 4.000 Nutzer von NHS-Therapie-Apps analysiert wurden, ergab, dass emotionale Bindungen zu KI zwar Heilungsprozesse anstoßen können, zugleich aber auch eine „synthetische Intimität“ schaffen, die gefährdete Nutzer in sich selbst verstärkenden Blasen gefangen halten kann.
Fachleute für psychische Gesundheit, die KI-Antworten untersuchten, stellten fest, dass Chatbot-Interaktionen „wahrscheinlich Schaden verursachen“ und dabei allgemeine Fürsorgeansätze zeigen, die das Risiko von Abhängigkeit und Manipulation der Nutzer bergen. Anders als ausgebildete Kliniker sind diese KI-Systeme nicht in der Lage, Nuancen, Körpersprache oder den größeren Kontext zu erfassen – weshalb Experten des Imperial College sie als „unerfahrenen Therapeuten“ bezeichneten.
Experten fordern sofortiges Handeln: evidenzbasierte Studien, um die Risiken zu verstehen, klinische Schulungen zur Einschätzung der KI-Nutzung von Patienten, Maßnahmen gegen problematische Abhängigkeit und regulatorische Rahmenbedingungen, die das langfristige Wohlergehen über Engagement-Kennzahlen stellen.
Der Wettlauf hat begonnen, ein Phänomen zu verstehen und zu kontrollieren, das bereits die Art und Weise verändert, wie Millionen Menschen emotionale Unterstützung erleben – bevor es zu spät ist.
Im Oktober kündigte OpenAI neue Sicherheitsvorkehrungen in ChatGPT an, die darauf abzielen, die Reaktionen des Systems auf Nutzer mit psychischen Belastungen zu verbessern.