OpenAI ergänzt ChatGPT für Jugendliche um strengere Schutzmaßnahmen und bereitet neue Sicherheitsfunktionen vor, darunter Kindersicherungen und standardmäßige Schutzvorkehrungen, wenn das Alter unklar ist. Das Technologieunternehmen erklärte, es arbeite auf ein langfristiges System zur Überprüfung des Nutzeralters hin.
Das ChatGPT-Update verspricht außerdem Werkzeuge, mit denen Eltern Konten verknüpfen, Regeln festlegen, Funktionen einschränken und Sperrzeiten durchsetzen können.
Sicherheit vor Freiheit
OpenAI stellt den Jugendschutz in ChatGPT an erste Stelle, selbst wenn dafür einige Freiheiten oder Teile der Privatsphäre eingeschränkt werden müssen, um jüngere Nutzer zu schützen.
Das Update ergänzt automatische Filter, die grafische sexuelle Inhalte blockieren, sowie speziell auf Jugendliche zugeschnittene Antworten. Bis Ende September werden neue Kindersicherungen es Familien ermöglichen, Konten ab einem Alter von 13 Jahren zu verknüpfen, Regeln festzulegen, den Speicher oder den Chatverlauf zu deaktivieren und Sperrzeiten durchzusetzen.
Eltern erhalten außerdem in seltenen Fällen akuter seelischer Krisen Benachrichtigungen; die Strafverfolgungsbehörden werden eingeschaltet, wenn die Erziehungsberechtigten nicht erreichbar sind. Um einer übermäßigen Nutzung entgegenzuwirken, wird ChatGPT während langer Sitzungen an Pausen erinnern. Wenn die Altersschätzung unsicher ist, erklärt OpenAI, standardmäßig „den sichereren Weg zu wählen“ und Nutzer in die Umgebung für unter 18-Jährige zu leiten. Erwachsene können ihr Alter nachweisen, um wieder vollen Zugriff zu erhalten.
Einführung des Jugendschutzes erfolgt, während Behörden Antworten von KI-Unternehmen verlangen
Die neuen Schutzmaßnahmen von ChatGPT kommen zu einem Zeitpunkt, an dem die Federal Trade Commission ermittelt, wie KI-Unternehmen, darunter OpenAI, Meta und Alphabet, KI-Chatbots auf Risiken für Kinder testen und überwachen. Die Behörde fordert Einzelheiten dazu an, ob diese Systeme Minderjährige Gefahren aussetzen, wie mit Daten umgegangen wird und welche Schritte Unternehmen unternehmen, um unsichere Interaktionen einzuschränken.
Zusätzlich zum Vorgehen auf Bundesebene unterzeichneten die Generalstaatsanwälte von 44 Bundesstaaten einen offenen Brief und versprachen, KI-Entwickler zur Verantwortung zu ziehen, wenn Chatbots Kinder gefährden.
Klagen im Zusammenhang mit Todesfällen setzen ChatGPTs Sicherheitsversprechen unter Druck
OpenAI sieht sich rechtlichen Auseinandersetzungen wegen des Vorwurfs ausgesetzt, ChatGPT habe die psychischen Probleme gefährdeter Nutzer verschärft. So haben die Eltern des 16-jährigen Adam Raine das Unternehmen verklagt und behaupten, das KI-Tool habe ihrem Sohn vor seinem Tod personalisierte Anweisungen zu Suizidmethoden gegeben.
In Connecticut erklärten Ermittler, ein Mann habe sich ChatGPT anvertraut, während es seine paranoiden Wahnvorstellungen verstärkte, was in einem Mord und anschließendem Suizid gipfelte.
Familien und Interessenvertreter argumentieren, solche Fälle legten gefährliche Lücken bei den Schutzmaßnahmen offen und erhöhten den Druck auf OpenAI, seine neuen Kindersicherungen und Schutzvorkehrungen für Jugendliche umzusetzen.
Der Wettlauf um sicherere Chatbots ist eröffnet
OpenAI geht dabei im Gleichschritt mit seinen Konkurrenten vor. Meta hat seine KI daran gehindert, mit Jugendlichen über sensible Themen zu sprechen, und bereitet Kindersicherungen vor, während Character.AI versprochen hat, mit Sicherheitsexperten zusammenzuarbeiten, um seine Systeme zu stärken.
Trotz dieser Schritte argumentieren Kritiker, dass weiterhin Schutzlücken bestehen, und verweisen auf beunruhigende Interaktionen, die noch immer durchrutschen. Nun richtet sich die Aufmerksamkeit darauf, ob Unternehmen Schutzmaßnahmen liefern können, die dem Ausmaß und der Geschwindigkeit der Verbreitung gerecht werden.
Bei aller Ambition der Branche könnte ihr künftiger Ruf von einer einfachen Frage abhängen: Kann sie Kinder schützen?
Weitere Nachrichten zu Chatbots: Im August wurde berichtet, dass Auftragnehmer von Meta die „expliziten Fotos“ und andere persönliche Informationen einsehen konnten, die Nutzer an Meta AI gesendet hatten.