Neue Forschung zeigt, dass die von Nutzern geäußerte Stimmung im Verlauf von Gesprächen mit Claude, dem KI-Chatbot von Anthropic, „positiver wird“ und die Nutzer sich danach oft emotional erleichtert fühlen.
Die Erkenntnis stammt aus einer Studie von Anthropic darüber, wie Nutzer sich an Claude wenden, um emotionale Unterstützung, Gesellschaft und zwischenmenschlichen Rat zu erhalten – obwohl der Chatbot nicht ausdrücklich dafür entwickelt wurde. Die Ergebnisse deuten darauf hin, dass KI möglicherweise verhindern kann, dass sich negative emotionale Muster verstärken. Weitere Untersuchungen sind jedoch nötig, um festzustellen, ob die positiven Veränderungen über einzelne Gespräche hinaus anhalten.
Berufswechsel, Beziehungen und der Umgang mit Ungewissheit
Anthropic analysierte 131.484 emotional geprägte Gespräche von 4,5 Millionen Claude-Chats, um besser zu verstehen, wie Menschen bei der KI Unterstützung suchen.
Nur 2,9 % der Gespräche mit dem KI-Chatbot wurden als affektiv eingestuft, das heißt, sie betrafen emotionale oder psychologische Bedürfnisse wie Coaching, Beratung oder Gesellschaft. Themen wie Berufswechsel, Beziehungsprobleme und persönliche Ungewissheit kamen am häufigsten vor.
Gesellschaft und Rollenspiele machten weniger als 0,5 % aller Chats aus, wobei romantische Rollenspiele weniger als 0,1 % ausmachten. Das spiegelt Claudes Design wider, das romantische oder sexuelle Interaktionen aktiv entmutigt.
Die positive Wirkung entschlüsselt: Warum sich Gespräche mit Claude gut anfühlen
Gespräche mit Claude hinterlassen bei den Menschen oft ein besseres Gefühl. Das zeigt sich daran, dass die Sprache der Nutzer im weiteren Gespräch positiver wird. Dieser Trend war bei affektiven Interaktionen am beständigsten, darunter Coaching-Sitzungen mit Schwerpunkt auf Motivation und Zielsetzung sowie Beratungsgespräche über Angst, Einsamkeit oder Stress.
Längere Gespräche oder solche mit 50 oder mehr Nachrichten von Menschen wurden tendenziell persönlicher und gaben den Nutzern Raum, tiefere Gefühle zu verarbeiten. Die Themen bewegten sich meist von oberflächlichen Sorgen hin zu Traumata, dem Sinn des Lebens oder existenziellen Fragen.
Auch Claudes geringer Widerstand könnte zu diesen Ergebnissen beitragen. In weniger als 10 % der affektiven Chats gab es Widerspruch, sodass die Gespräche ohne Unterbrechung fließen konnten. Diese Offenheit half, eine Verstärkung negativer Überzeugungen zu vermeiden, und förderte eine positive emotionale Dynamik.
Anthropic weist darauf hin, dass diese Veränderungen eine kurzfristige Stimmung widerspiegeln und keine klinischen Ergebnisse darstellen. Die Analyse erfasste die geäußerte Sprache, nicht anhaltende psychologische Zustände oder das Wohlbefinden.
Die emotionale Grauzone menschlich-künstlicher Verbindungen
Anthropic räumt ein, dass emotional intensive Gespräche mit zunehmender Intelligenz von Claude neue Herausforderungen mit sich bringen.
Die konstante Empathie und das Ausbleiben emotionaler Erschöpfung des KI-Modells könnten beeinflussen, wie Menschen Unterstützung erleben, und ihre Erwartungen an Beziehungen im echten Leben verändern. Einige „Power-User“ führen lange, persönliche Gespräche, die eher an Gesellschaft als an Unterstützung erinnern.
Um dem zu begegnen, arbeitet das KI-Unternehmen mit der Krisenhilfeorganisation ThroughLine zusammen, um Claudes Umgang mit sensiblen Themen zu verbessern und Nutzer bei Bedarf zu realer Hilfe zu führen. Obwohl das KI-Tool ist nicht dazu gedacht, Fachkräfte für psychische Gesundheit zu ersetzen, entwickelt Anthropic Schutzmaßnahmen und Vermittlungssysteme, um sicherzustellen, dass emotionale Unterstützung durch künstliche Intelligenz innerhalb gesunder Grenzen bleibt.
Das Unternehmen plant außerdem, extreme Nutzungsmuster wie emotionale Abhängigkeit, Schmeichelei und das Risiko zu untersuchen, wahnhaftes Denken oder schädliche Überzeugungen zu verstärken. Diese frühen Erkenntnisse markieren den Beginn von Anthropics umfassenderem Bestreben, emotional bewusste KI-Systeme zu entwickeln, die echte menschliche Verbindungen unterstützen, statt sie zu ersetzen.
Lesen Sie die Berichterstattung von eWeek darüber, wie einige Instagram-Chatbots Therapiequalifikationen erfinden, und darüber, dass ChatGPT und andere Chatbots negative Auswirkungen auf die psychische Gesundheit der Nutzer hatten, darunter auch einige tragische Folgen.