OpenAI wird ab Dezember Erotik in ChatGPT für verifizierte Erwachsene erlauben, sagte CEO Sam Altman auf X.
Altman stellte die Änderung unter das Motto „erwachsene Nutzer wie Erwachsene behandeln“ – flankiert von strengeren Altersprüfungen und Schutzmaßnahmen. Außerdem kündigte er an, dass „in einigen Wochen“ ein ChatGPT-Update erscheinen soll, mit dem Nutzer menschenähnlichere Persönlichkeiten aktivieren können..
Warum jetzt – und was sich ändert
Altman sagte, ChatGPT sei „zu Beginn ziemlich restriktiv“ gewesen, um Risiken für die psychische Gesundheit zu bewältigen. Neue Tools haben die Probleme abgemildert, sodass OpenAI die Regeln „in den meisten Fällen“ lockern wird. Der Zugang zu erotischen Inhalten wird auf verifizierte Erwachsene beschränkt; wenn das Alter nicht bestätigt werden kann, gelten die Standardeinstellungen für Jugendliche.
Schutzmaßnahmen für Jugendliche laufen parallel weiter
OpenAI hob Kindersicherungen, Ruhezeiten, die Kontoverknüpfung und standardmäßige Filter für sexuelle oder gewalttätige Themen hervor. Wenn die Altersschätzung unsicher ist, wechselt der Dienst standardmäßig zur Nutzungserfahrung für unter 18-Jährige.
Altman merkte außerdem an, dass bestimmte Anwendungsfälle für Erwachsene, etwa bestimmte Formen von Fiktion, für verifizierte Erwachsene nicht blockiert werden sollten, während Minderjährige strengeren Einschränkungen unterliegen.
Was die Sicherheitsstandards erhöhte
Klagen und Untersuchungen nach tragischen Vorfällen verstärkten die Bedenken, darunter eine Klage der Eltern des 16-jährigen Adam Raine mit dem Vorwurf, ChatGPT habe Anleitungen zu Suizidmethoden geliefert.
Im US-Bundesstaat Connecticut behaupteten Ermittler in Greenwich, ein Mann habe sich auf ChatGPT verlassen, während es paranoide Wahnvorstellungen verstärkte bevor er seine Mutter und sich selbst tötete.
OpenAI führt seine Sicherheitsmaßnahmen als Grundlage seiner Reaktion an.
Elon Musks Grok zeigt, wo die Leitplanken nachgeben können
Während OpenAI die Altersprüfung verschärft, ist der Konkurrent xAI in die entgegengesetzte Richtung gegangen. Der „Spicy“-Modus von Grok Imagine löste Kritik aus wegen der Erstellung sexualisierter Promi-Deepfakes mit begrenzter Moderation.
Auch xAI setzt verstärkt auf flirtende Begleiter-Personas, darunter einen flirtenden Anime-Avatar, und signalisiert damit eine lockerere Haltung bei Ton und Grenzen.
Diese Fälle zeigen, wie schnell sich sexualisierte Inhalte ohne strenge Kontrollen verbreiten können und warum Fairness und Verzerrungen bei der Richtlinie für Inhalte für Erwachsene berücksichtigt werden müssen.
Sicherheitsdruck und wohin OpenAI steuert
Die bundesweite Prüfung der Auswirkungen von KI-Chatbots auf Minderjährige geht weiter; dabei setzt die FTC große Plattformen unter Druck Einzelheiten zu Tests, Schutzmaßnahmen und dem Umgang mit Daten offenzulegen. Die Generalstaatsanwälte der Bundesstaaten warnten davor, dass sie jedes Mittel einsetzen würden, um Kinder zu schützen.
Aufsichtsbehörden und Klagen erhöhen den Druck auf Anbieter, nachzuweisen, dass Kindersicherungen und Standardeinstellungen für Jugendliche tatsächlich funktionieren.
OpenAIs Wette ist ein geteiltes Modell: mehr Spielraum für verifizierte Erwachsene, strengere Standardeinstellungen für Jugendliche und ein flexiblerer Ansatz für Nutzer unbekannten Alters.
Der Dezember wird als Prüfstein dienen und Richtlinie, Verifizierung und Produktdesign darauf testen, ob sie Bestand haben, ohne die Gefährdung Minderjähriger zu erhöhen.
Altmans jüngste Äußerungen liefern eine skeptische Einschätzung dessen, was wir heute als echte Arbeit betrachten.