KI-Chatbots werden zu einem festen Bestandteil des Lebens von Jugendlichen. Dieser Wandel erhöht den Druck, Sicherheit und Verantwortung von Grund auf mitzudenken.
Vor diesem Hintergrund hat OpenAI anlässlich der Veröffentlichung seines neuesten Modells GPT-5.2 versprochen, den Schutz von Kindern an erste Stelle zu setzen. Dazu führt das Unternehmen eine aktualisierte Modellspezifikation für Nutzer unter 18 Jahren sowie neue Materialien zur KI-Kompetenz ein, die Jugendlichen und Eltern dabei helfen sollen, den Chatbot verantwortungsvoll zu nutzen.
Dieser Schritt folgt auf wachsenden Druck von Gesetzgebern und trauernden Eltern. ChatGPT steht im Zentrum mehrerer Klagen, in denen behauptet wird, seine Nutzung habe zu Suizid und Psychosen beigetragen. Die Kläger argumentieren, OpenAI habe keine ausreichenden vorbeugenden Schutzvorkehrungen eingerichtet und gefährdete Nutzer zu schädlichen Entscheidungen beeinflusst.
Die aktualisierte Modellspezifikation ist eine schriftlich festgehaltene Sammlung von Werten, die den Chatbot in schwierigen oder folgenreichen Situationen im Umgang mit Nutzern unter 18 Jahren anleiten soll. Derzeit können Nutzer ab 13 Jahren auf ChatGPT zugreifen. OpenAI hat die Richtlinien gemeinsam mit der American Psychological Association entwickelt.
Zusammengefasst stellen die Grundsätze für unter 18-Jährige die Sicherheit von Jugendlichen auch dann an erste Stelle, wenn dies mit den Kernfunktionen des Chatbots kollidieren kann. Zugleich sollen sie dazu ermutigen, Unterstützung in der realen Welt einer KI-basierten Beratung vorzuziehen. Der Chatbot wird seine Sprache außerdem auf Jugendliche abstimmen und klarere Erwartungen an seine Fähigkeiten formulieren. Damit baut OpenAI auf bereits bestehenden Funktionen für Jugendliche auf, darunter eine Kindersicherung, die Eltern benachrichtigt wenn nach bestimmten Begriffen gesucht wird.
Proaktive Compliance, bevor Regulierungsbehörden aktiv werden
Die Aktualisierungen folgen einen Monat, nachdem der kalifornische Gouverneur Gavin Newsom ein Gesetzespaket zum Schutz von Kindern vor KI-Chatbots unterzeichnet hat. Die Gesetzgebung verpflichtet KI-Unternehmen, für jugendliche Nutzer bei bestimmten Themen Schutzvorkehrungen einzuführen und sie an geeignete Unterstützungsangebote weiterzuleiten.
Mit dem Update erfüllt OpenAI beide Anforderungen, geht jedoch nicht so weit, Nutzer alle drei Stunden darauf hinzuweisen, dass sie mit einer KI sprechen – eine weitere Bestimmung des Gesetzes.
OpenAI und andere Chatbot-Anbieter werden außerdem verpflichtet sein, Sicherheits- und Schutzprotokolle sowie schwerwiegende Sicherheitsvorfälle öffentlich offenzulegen, um die Transparenz in der gesamten Branche zu verbessern.
Ein standardisiertes nationales KI-Gesetz ist ebenfalls in Arbeit, das möglicherweise die Gesetzgebung auf Ebene der Bundesstaaten ablösen könnte. Einige Experten für KI-Sicherheit befürchten, dass ein nationaler Rahmen unter der Trump-Regierung weniger streng ausfallen könnte als der kalifornische Ansatz und dadurch der Umfang der Informationen sinkt, die Unternehmen offenlegen müssen.
KI-Sicherheit angesichts des zunehmenden Wettbewerbs
Als öffentlich bekanntester Akteur auf dem Chatbot-Markt steht OpenAI stärker unter Beobachtung als Konkurrenten wie Google, Meta und Anthropic.
Sicherheit behindert Innovation zwar nicht grundsätzlich, doch als Vorreiter bei der Einführung von Sicherheitsfunktionen zu gelten, kann als ungleich verteilte Belastung wahrgenommen werden – etwas, worauf OpenAI-CEO Sam Altman bereits zuvor hingedeutet hat. Dies gilt trotz Benchmarks wie SafetyBench , die zeigen, dass GPT-Modelle Konkurrenten bei sicherheitsbezogenen Bewertungen durchgehend übertreffen.
OpenAI hat kürzlich einen „Code Red“ ausgerufen als Reaktion auf den rasanten Anstieg der Popularität und Leistungsfähigkeit konkurrierender Modelle, insbesondere Googles Gemini 3, das bei seiner Markteinführung hervorragende Bewertungen erhielt. Anthropics Claude hat sich ebenfalls als Standardoption für Programmierung und den Unternehmenseinsatz etabliert, obwohl ChatGPT weiterhin von mehr Geschäftskunden genutzt wird.
Wenn Aktualisierungen schneller als ursprünglich geplant eingeführt werden, könnte OpenAI erneut stärker unter Beobachtung geraten, falls sich die Sicherheitsfunktionen als unzureichend erweisen. GPT-5.2, das vergangene Woche eingeführt wurde, sollte ursprünglich Ende Dezember oder Anfang Januar erscheinen. Nach mehreren Jahren explosiven Wachstums hat das Unternehmen seinen Fokus möglicherweise etwas gelockert, indem es ergänzende Tools wie Sora auf den Markt brachte. Inzwischen konzentriert es sich jedoch wieder darauf, ChatGPT erneut zum Klassenbesten zu machen.
Außerdem aus den KI-Nachrichten: OpenAI hat gerade seine ChatGPT-Images-Funktion grundlegend überarbeitet , um Googles virales Bildgenerierungstool Nano Banana herauszufordern und Nutzern weltweit eine schnellere, dialogorientiertere Erstellung und Bearbeitung von Bildern zu ermöglichen.