OpenAI hat offiziell ein neues System eingeführt, das anhand deiner Nutzung von ChatGPT dein Alter einschätzen soll.
Der KI-Riese hat am Dienstag angekündigt, ein Modell zur „Altersschätzung“ für alle ChatGPT-Tarife für Privatnutzer auszurollen. Statt dir einfach zu glauben, sucht das System nun nach digitalen Hinweisen, um festzustellen, ob ein Konto einer minderjährigen Person gehört.
Nach Angaben des Unternehmens gilt: „Wenn das Modell zur Altersschätzung zu dem Ergebnis kommt, dass ein Konto möglicherweise einer Person unter 18 Jahren gehört, aktiviert ChatGPT automatisch zusätzliche Schutzmaßnahmen, die den Kontakt mit sensiblen Inhalten reduzieren sollen.“
Diese Schutzmaßnahmen sollen die Generierung von Inhalten mit drastischer Gewalt, sexuellem oder gewalttätigem Rollenspiel, Darstellungen von Selbstverletzung sowie Material, das extreme Schönheitsideale oder ungesundes Diätverhalten propagiert, blockieren.
Die Initiative für „Sicherheit von Jugendlichen“
Das geschieht nicht im luftleeren Raum. OpenAI steht wie viele Technologieunternehmen zunehmend unter rechtlichem und regulatorischem Druck , jüngere Nutzer besser zu schützen. Das Unternehmen wird in Klagen genannt, darunter einer, über die CNBC berichtet hat und in deren Mittelpunkt der Suizid eines Teenagers steht, der angeblich mit Interaktionen mit ChatGPT in Verbindung gebracht wird.
Auch die Federal Trade Commission untersucht, wie sich KI-Chatbots auf Kinder auswirken.
OpenAI stellt das neue System als Möglichkeit dar, Erwachsenen letztlich mehr Freiheit zu geben. „Dadurch können wir Erwachsene auch wie Erwachsene behandeln und ihnen ermöglichen, unsere Tools innerhalb der Sicherheitsgrenzen so zu nutzen, wie sie es möchten“, erklärte das Unternehmen in seiner Ankündigung. Die Idee dahinter ist, dass die Plattform bei einer zuverlässigen Identifizierung Minderjähriger dort strengere Regeln anwenden kann, wo sie nötig sind, ohne alle Nutzer einzuschränken.
Was passiert, wenn die KI sich irrt?
Das System wird nicht perfekt sein. Erwachsene, die fälschlicherweise als Jugendliche eingestuft werden, können den vollständigen Zugriff wiederherstellen, müssen dafür jedoch einen zusätzlichen Schritt durchführen. Sie müssen ihr Alter über Persona, einen Identitätsdienst eines Drittanbieters, verifizieren, indem sie ein Selfie einreichen.
Nutzer können unter „Einstellungen > Konto“ prüfen, ob für ihr Konto Schutzmaßnahmen aktiviert wurden, und dort mit einem Selfie den Verifizierungsprozess starten.
Neben der Altersschätzung erklärt OpenAI, dass Eltern das ChatGPT-Erlebnis ihrer Teenager weiter mithilfe elterlicher Kontrollfunktionen anpassen können. Mit diesen Tools können Eltern Ruhezeiten festlegen, Funktionen wie den Speicher oder das Modelltraining verwalten und Benachrichtigungen erhalten, wenn Anzeichen akuter Belastung erkannt werden.
Das Unternehmen erklärt, dass diese Kontrollfunktionen Familien mehr Einblick und Wahlmöglichkeiten geben sollen, während Jugendliche KI-Tools in der Schule und zu Hause häufiger nutzen.
Die Einführung erfolgt weltweit, in der Europäischen Union jedoch erst in den kommenden Wochen, um regionale Gesetze zur digitalen Sicherheit einzuhalten. OpenAI erklärt, das Unternehmen werde die Genauigkeit des Modells weiter verbessern. Auch die weiter gefassten Arbeiten zur Sicherheit von Jugendlichen, die gemeinsam mit Organisationen wie der American Psychological Association entwickelt wurden, würden fortgesetzt.
Lesen Sie auch: KI-Trends für 2026 , um mehr darüber zu erfahren, wohin Microsoft zufolge die Entwicklung der KI als Nächstes geht.