Character.AI steht in Italien wegen seines Umgangs mit den personenbezogenen Daten von Kindern erneut unter Beobachtung.
Die italienische Datenschutzbehörde verhängte gegen Character Technologies, das US-Unternehmen hinter Character.AI, eine Geldstrafe, nachdem sie Probleme bei Datenschutzhinweisen, Altersprüfungen, Schutzmaßnahmen für Minderjährige und Schritten zur EU-Konformität festgestellt hatte. Die Entscheidung unterstreicht Italiens Rolle als eine der aktivsten Datenschutzaufsichten Europas im Bereich KI – insbesondere bei Diensten, die von Kindern und Jugendlichen genutzt werden.
Italien bemängelt Datenschutz- und Altersprüfungen
Reuters berichtete dass Italiens Datenschutzbehörde gegen Character Technologies wegen Verstößen gegen Datenschutzvorschriften eine Geldstrafe von 158.000 Euro beziehungsweise rund 180.500 US-Dollar verhängte.
Mit Character.AI können Nutzer KI-generierte virtuelle Charaktere erstellen und mit ihnen chatten, darunter auch Minderjährige. Reuters zufolge stellte die italienische Behörde mehrere Datenschutzverstöße fest, darunter Mängel bei den Informationen, die Nutzer über die Verarbeitung personenbezogener Daten erhielten.
Die italienische Datenschutzbehörde, bekannt als Garante, erklärte, sie habe „kritische Probleme“ beim Schutz Minderjähriger und bei den Systemen zur Altersverifizierung festgestellt.
Die Behörde ergänzte, dass Character Technologies zu spät mit der Erstellung einer Datenschutz-Folgenabschätzung und der Benennung eines EU-Vertreters war. Diese Schritte sind für die Einhaltung der EU-Datenschutzvorschriften von zentraler Bedeutung, weil sie zeigen, wie ein Unternehmen Datenrisiken bewertet. Sie können Aufsichtsbehörden außerdem dabei helfen festzustellen, wer in Europa.
Was Character.AI ändern muss
Garante erklärte, Character Technologies müsse sicherstellen, dass seine Systeme zur Altersverifizierung ordnungsgemäß funktionieren. Außerdem wies die Behörde das Unternehmen an, wirksamere Mechanismen einzuführen, die Minderjährige daran hindern, neue Konten zu registrieren, nachdem sie zuvor gesperrt wurden.
Die Behörde verwies ausdrücklich auf die sogenannte „Abkühlphase“, eine Maßnahme, die Minderjährige davon abhalten soll, nach einer Sperrung sofort erneut eine Registrierung zu versuchen.
Garante wies Character Technologies außerdem an, die Profile von Minderjährigen standardmäßig auf den privaten Modus zu setzen. Das Unternehmen muss innerhalb von 120 Tagen nach Erhalt der Anordnung über die ergriffenen Maßnahmen berichten.
Character Technologies hat auf Reuters’ Bitte um Stellungnahme bislang nicht reagiert.
Altersprüfungen bei Chatbots geraten stärker unter Beobachtung
Für KI-Entwickler, die in Italien und auf dem weiteren europäischen Markt tätig sind, zeigt die Geldstrafe, dass Altersprüfungen längst nicht mehr nur ein Merkmal der Nutzererfahrung sind. Aufsichtsbehörden betrachten sie zunehmend als Teil eines umfassenderen Compliance-Systems, das Transparenz, Bewertungen von Datenschutzrisiken, Maßnahmen zum Schutz von Kindern und eine lokale Vertretung umfasst.
Das größere Risiko liegt nicht in der Höhe der Geldstrafe.
Für Character.AI und ähnliche Plattformen könnte die Entscheidung Produktänderungen, zusätzliche Hürden bei der Registrierung und eine intensivere behördliche Beobachtung in Europa bedeuten – insbesondere bei Diensten, die auf langen, persönlichen Gesprächen mit Chatbots.
basieren. Auch der Altersnachweis bringt eigene Datenschutzprobleme mit sich. Strengere Prüfungen können helfen, Minderjährige zu schützen, doch Unternehmen müssen dafür möglicherweise mehr Informationen über Nutzer erfassen oder verarbeiten. KI-Unternehmen müssen den Aufsichtsbehörden zeigen, dass sie Risiken für die Sicherheit von Kindern reduzieren können, ohne neue Datenschutzprobleme zu schaffen.
Italien hat bereits gezeigt, dass es bereit ist, gegen große KI-Dienste vorzugehen. Reuters berichtete, dass Garante OpenAIs ChatGPT 2023 wegen Problemen bei Altersprüfungen und der Datenerfassung vorübergehend verbot. Die Geldstrafe gegen Character.AI ist ein weiteres Signal dafür, dass Plattformen für KI-Anwendungen für Verbraucher, insbesondere solche, die von Minderjährigen genutzt werden, nach den bestehenden europäischen Datenschutzvorschriften weiterhin unter Druck stehen werden.
Weitere Nachrichten: Erfahren Sie mehr über Metas Plan, Instagram- und Facebook-Fotos mithilfe von KI auf Hinweise auf minderjährige Nutzer zu scannen.