OpenAI wird ab Dezember erotische Inhalte in ChatGPT für verifizierte Erwachsene erlauben, sagte CEO Sam Altman auf X.
Altman stellte die Änderung unter das Motto „erwachsene Nutzer wie Erwachsene behandeln“ – flankiert von strengeren Altersprüfungen und Schutzmaßnahmen. Außerdem kündigte er an, dass in „einigen Wochen“ ein ChatGPT-Update erscheinen werde, mit dem Nutzer sich für menschenähnlichere Persönlichkeiten entscheiden können..
Warum jetzt – und was sich ändert
ChatGPT sei „zu Beginn ziemlich restriktiv“ gewesen – so Altman, um psychische Gesundheitsrisiken einzudämmen. Neue Werkzeuge hätten die Probleme abgemildert, sodass OpenAI die Regeln „in den meisten Fällen“ lockern werde. Der Zugang zu erotischen Inhalten wird auf verifizierte Erwachsene beschränkt; wenn das Alter nicht bestätigt werden kann, gelten die Standardeinstellungen für Jugendliche.
Schutzmaßnahmen für Jugendliche laufen parallel weiter
OpenAI hob Kindersicherungen, Ruhezeiten, die Verknüpfung von Konten und standardmäßige Filter für sexuelle oder gewalttätige Themen hervor. Wenn die Altersschätzung unsicher ist, wird der Dienst standardmäßig die Erfahrung für unter 18-Jährige aktivieren.
Altman wies außerdem darauf hin, dass bestimmte Anwendungsfälle für Erwachsene, etwa bestimmte Arten von Fiktion, für verifizierte Erwachsene nicht blockiert werden sollten, während Minderjährige strengeren Einschränkungen unterliegen.
Was die Sicherheitsanforderungen verschärfte
Klagen und Untersuchungen nach tragischen Vorfällen verstärkten die Bedenken, darunter eine Klage der Eltern des 16-jährigen Adam Raine, in der es hieß, ChatGPT habe Anleitungen zu Suizidmethoden geliefert.
In Greenwich im US-Bundesstaat Connecticut erklärten Ermittler, ein Mann habe sich auf ChatGPT verlassen, als es seine paranoiden Wahnvorstellungen verstärkte, bevor er seine Mutter und sich selbst tötete.
OpenAI verweist auf seine Sicherheitsmaßnahmen als Grundlage seiner Reaktion.
Elon Musks Grok zeigt, wo die Schutzvorkehrungen versagen können
Während OpenAI die Altersprüfung verschärft, ist der Konkurrent xAI in die entgegengesetzte Richtung gegangen. Der „Spicy“-Modus von Grok Imagine löste Empörung aus, weil er sexualisierte Deepfakes von Prominenten mit begrenzter Moderation erzeugte.
Auch xAI setzt verstärkt auf flirtende Begleiter-Personas, darunter ein kokettes Anime-Avatar, und signalisiert damit eine lockerere Haltung bei Ton und Grenzen.
Diese Episoden zeigen, wie schnell sich sexualisierte Ausgaben ohne strenge Prüfungen verbreiten können – und warum Fairness und Verzerrungen in die Richtlinien für Inhalte für Erwachsene einfließen müssen.
Sicherheitsdruck und OpenAIs Zielrichtung
Die bundesweite Prüfung der Auswirkungen von KI-Chatbots auf Minderjährige hält an; dabei fordert die FTC große Plattformen zu Einzelheiten über Tests, Schutzmaßnahmen und den Umgang mit Daten auf. Die Generalstaatsanwälte der Bundesstaaten warnten, sie würden jedes verfügbare Mittel einsetzen, um Kinder zu schützen.
Aufsichtsbehörden und Klagen erhöhen den Druck auf Anbieter, nachzuweisen, dass Kindersicherungen und Standardeinstellungen für Jugendliche tatsächlich funktionieren.
OpenAIs Wette ist ein geteiltes Modell: mehr Spielraum für verifizierte Erwachsene, strengere Standardeinstellungen für Jugendliche und ein flexiblerer Ansatz für Nutzer unbekannten Alters.
Der Dezember wird als Bewährungsprobe dienen: Richtlinien, Verifizierung und Produktdesign müssen zeigen, dass sie funktionieren, ohne die Gefährdung Minderjähriger zu erhöhen.
Altmans jüngsten Äußerungen bieten einen skeptischen Blick darauf, was wir heute als echte Arbeit betrachten.