Der rasante Anstieg von durch KI erzeugtem Missbrauch zwingt Technologieunternehmen, sich mit einer neuen und zutiefst beunruhigenden Realität auseinanderzusetzen.
OpenAI hat einen neuen „Child Safety Blueprint“ vorgestellt, einen politischen Rahmen zur Bekämpfung der zunehmenden Bedrohung durch den Einsatz von KI ermöglichter sexueller Ausbeutung von Kindern. Der Schritt erfolgt in einer Zeit wachsender Besorgnis in der Technologiebranche, da Regulierungsbehörden, Interessenvertretungen und Strafverfolgungsbehörden warnen, dass generative KI schädliches Verhalten im Internet beschleunigt.
„Die sexuelle Ausbeutung von Kindern ist eine der dringendsten Herausforderungen des digitalen Zeitalters“, schrieb OpenAI in einem Blogbeitrag. „KI verändert derzeit rasch sowohl die Art und Weise, wie diese Schäden in der gesamten Branche entstehen, als auch, wie sie in großem Maßstab bekämpft werden können.“
Das Unternehmen erklärt, der Blueprint solle den Kinderschutz in den Vereinigten Staaten stärken, indem Erkennungssysteme, Meldestandards und rechtliche Rahmenbedingungen verbessert werden.
Der gemeinsam mit dem National Center for Missing & Exploited Children (NCMEC) und der Attorney General Alliance entwickelte Rahmen erscheint zu einem Zeitpunkt, an dem Strafverfolgungsbehörden eine Zunahme synthetischen Missbrauchsmaterials melden, das das Internet überschwemmt.
Warum jetzt?
Nach Angaben der Internet Watch Foundation wurden allein in der ersten Hälfte des Jahres 2025 mehr als 8.000 Meldungen über durch KI erzeugte Darstellungen sexuellen Kindesmissbrauchs erfasst – ein Anstieg um 14 % gegenüber dem Vorjahr, berichtete TechCrunch. Kriminelle nutzen KI-Tools, um explizite Bilder von Kindern für finanzielle Sextortion zu fälschen und überzeugende Grooming-Nachrichten in großem Maßstab zu erzeugen.
Der Blueprint folgt zudem auf viel beachtete Rechtsstreitigkeiten, die Technologieunternehmen aufhorchen lassen. Meta und Google erlitten kürzlich vor Gericht schwere Niederlagen wegen Mängeln bei den Kinderschutzmaßnahmen. Und auch OpenAI sieht sich Klagen ausgesetzt, in denen behauptet wird, die psychologisch manipulative Natur seines Produkts GPT-4o habe zu unrechtmäßigen Todesfällen durch Suizid beigetragen, wie aus von TechCrunch zitierten Gerichtsdokumenten hervorgeht.
Was der Blueprint vorsieht
Der Blueprint versucht nicht, alles auf einmal zu erledigen. Stattdessen konzentriert er sich auf drei konkrete „Prioritätsbereiche“, um den digitalen Raum aufzuräumen:
- Modernisierung der Gesetze der Bundesstaaten: Der Blueprint fordert die Modernisierung der Gesetzgebung , damit durch KI erzeugtes und digital verändertes Missbrauchsmaterial eindeutig erfasst wird und Täter keine rechtlichen Grauzonen ausnutzen können.
- Verbesserung der Meldekette: OpenAI will, dass Meldungen an das National Center for Missing & Exploited Children (NCMEC) deutlich detaillierter ausfallen, einschließlich der konkreten „Prompts“, die zur Erstellung des Materials verwendet wurden.
- Sicherheit durch Design: Das Unternehmen betont „Sicherheit durch Design“. Damit ist gemeint, dass KI-Systeme Schutzvorkehrungen enthalten sollten, die schädliches Verhalten frühzeitig erkennen und blockieren, bevor es zu Missbrauch kommt.
Zusammengenommen sollen diese Maßnahmen Risiken früher erkennen, Ermittlungen beschleunigen und die Verantwortlichkeit im gesamten Ökosystem verbessern.
OpenAI hat diesen Plan nicht allein verfasst, sondern sich mit Vertretern der Bundesstaaten und Kinderschutzorganisationen zusammengetan, um sicherzustellen, dass er tatsächlich funktioniert.
Michelle DeLaune, President & CEO des NCMEC, verdeutlichte das Ausmaß der Bedrohung: „Generative KI beschleunigt das Verbrechen der sexuellen Ausbeutung von Kindern im Internet auf zutiefst beunruhigende Weise – sie senkt die Zugangshürden, vergrößert das Ausmaß und ermöglicht neue Formen des Schadens.“
Die Generalstaatsanwälte der Bundesstaaten Jeff Jackson (North Carolina) und Derek Brown (Utah), die gemeinsam den AI Task Force leiten, äußerten sich ebenfalls zur Notwendigkeit kontinuierlicher Aktualisierungen:
„Wir begrüßen besonders, dass der Rahmen anerkennt, dass wirksame Schutzmaßnahmen für generative KI mehrschichtige Abwehrmechanismen erfordern – nicht eine einzelne technische Kontrolle, sondern eine Kombination aus Erkennung, Mechanismen zur Verweigerung, menschlicher Aufsicht und kontinuierlicher Anpassung an neu auftretende Muster des Missbrauchs.“
Ob der Blueprint zu bedeutenden Veränderungen führt, wird von seiner Umsetzung abhängen. Obwohl er einen umfassenden Rahmen absteckt, bleiben Fragen zur Durchsetzung, zur Verantwortlichkeit und dazu offen, ob andere große KI-Anbieter diesem Beispiel folgen werden.
Weitere Informationen zu OpenAI finden Sie in unserem Bericht darüber, wie die Rekordfinanzierungsrunde über 122 Milliarden US-Dollar die Bewertung des Unternehmens auf 852 Milliarden US-Dollar steigen ließ.