OpenAI plant, ChatGPT um Jugendschutzeinstellungen zu erweitern und sensiblere Unterhaltungen an seine fortschrittlicheren Modelle weiterzuleiten – offenbar als Reaktion auf jüngste Fälle, in denen die KI angeblich zu Suizid oder anderen Schädigungen ermutigt hat.
Das Unternehmen arbeitet hinter den Kulissen an Schutzmaßnahmen, möchte aber „unsere Pläne für die nächsten 120 Tage proaktiv vorstellen, damit ihr nicht auf die Markteinführungen warten müsst, um zu sehen, wohin wir uns entwickeln“, heißt es in einem Blogbeitrag vom 2. September.
Jugendschutzeinstellungen ermöglichen den Zugriff auf das Konto des Teenagers und das Deaktivieren bestimmter Funktionen
Jugendschutzeinstellungen werden im September als Option innerhalb von ChatGPT erscheinen. Sie ermöglichen Eltern Folgendes:
- Ihr Konto mit dem Konto ihres Teenagers verknüpfen.
- Regeln für das Modellverhalten auswählen, die für Teenager konzipiert sind (standardmäßig aktiviert).
- Funktionen wie den Speicher und den Chatverlauf deaktivieren.
- Benachrichtigungen erhalten, wenn das System auf dem Konto ihres Teenagers „akute Verzweiflung“ feststellt.
OpenAI erklärte, das Unternehmen habe Experten hinzugezogen, um sicherzustellen, dass diese Einstellungen das Vertrauen zwischen Eltern und Teenagern wahren, so das Unternehmen. ChatGPT wird für Nutzer unter 13 Jahren nicht empfohlen.
„Sicherheitsfunktionen wie diese schützen nicht nur gefährdete Nutzer, sondern setzen auch einen wichtigen Präzedenzfall für verantwortungsvolle KI-Governance,“ sagte Alon Yamin, co-founder and CEO des KI-basierten Dienstes zur Inhaltsüberprüfung Copyleaks, in einer E-Mail an TechRepublic.
„Transparenz, Kontrolle und Verantwortlichkeit müssen zu grundlegenden Erwartungen werden und dürfen nicht erst nachträglich berücksichtigt werden. Wenn Unternehmen möchten, dass KI in großem Maßstab breite Anwendung findet – ob in Klassenzimmern, am Arbeitsplatz oder zu Hause –, müssen sie zeigen, dass der Schutz des menschlichen Wohlergehens ebenso wichtig ist wie der technologische Fortschritt.“
Schwierige Gespräche können ChatGPT automatisch dazu veranlassen, ein Reasoning-Modell auszuwählen
OpenAI prüft außerdem Änderungen daran, wie ChatGPT das zu verwendende Modell auswählt, wenn es um psychische Krisen oder emotional komplexe Themen geht.
Reasoning-Modelle wie GPT‑5-thinking und o3 sind darauf ausgelegt, mehr Zeit mit der Verarbeitung von Nutzernachrichten zu verbringen und vor der Erstellung einer Antwort zusätzlichen Kontext anzuwenden. Deshalb erklärte OpenAI, dass einige Unterhaltungen über „sensible“ Themen oder mit Anzeichen „akuter Verzweiflung“ „bald“ automatisch an diese stärker abwägenden Modelle weitergeleitet werden.
Die Entscheidungen von OpenAI in den Bereichen Gesundheit und Sicherheit werden nach Angaben des Unternehmens vom Expert Council on Well-Being and AI sowie vom Global Physician Network geleitet. Der Rat besteht aus Fachleuten für Jugendförderung, psychische Gesundheit und Mensch-Computer-Interaktion, die Empfehlungen dazu geben, wie KI das Leben der Menschen verbessern kann. Künftige Versionen der Jugendschutzeinstellungen werden teilweise auf Grundlage des Feedbacks dieser Gruppe entwickelt.
Das Global Physician Network besteht unterdessen aus 250 Ärzten in 60 Ländern. OpenAI erklärte, 90 dieser Experten aus 30 Ländern hätten bereits Forschungsergebnisse beigesteuert, die dazu beitragen sollen, das Verhalten seiner Modelle in Unterhaltungen über psychische Gesundheit zu gestalten. OpenAI hat außerdem Spezialisten für Essstörungen, Substanzkonsum, die Gesundheit von Jugendlichen und weitere Bereiche hinzugezogen.
In anderen Big-Tech-Nachrichten hat Meta kürzlich Konten entfernt, die Facebook mit KI-generierten Bildern überschwemmt hatten und den Holocaust darstellten.