.jpg?w=1024)
Chinas neue Vorschriften für KI-gestützte Begleitdienste sind am 15. Juli in Kraft getreten und führen einige der strengsten Regeln der Welt für Chatbots ein, die emotionale Unterstützung und Gesellschaft bieten sollen.
Die von der Cyberspace Administration of China gemeinsam mit vier weiteren Regierungsbehörden erlassenen Übergangsmaßnahmen zur Verwaltung anthropomorpher interaktiver Dienste mit künstlicher Intelligenz gelten für KI-Dienste, die menschliche Persönlichkeiten simulieren und über Text, Bilder, Audio oder Video kontinuierliche emotionale Interaktion bieten.
Die Regeln schließen KI-Produkte aus, die auf Kundenservice, Unterstützung am Arbeitsplatz, Bildung und wissenschaftliche Forschung ausgerichtet sind.
Nach den Vorschriften dürfen Anbieter KI-Begleiter nicht so gestalten, dass sie emotionale Abhängigkeit, Sucht oder übermäßige Bindung fördern. Sie dürfen ihre Dienste auch nicht dazu nutzen, Nutzer zu unangemessenen Entscheidungen zu manipulieren oder reale soziale Beziehungen zu ersetzen.
Neue Pflichten für KI-Anbieter
Die Maßnahmen verpflichten Unternehmen, die KI-Begleitdienste anbieten, Anzeichen emotionaler Belastung zu erkennen und einzugreifen, wenn Nutzer offenbar in einer Krise stecken.
Äußern Nutzer Absichten, die Selbstverletzung, Suizid oder andere schwerwiegende Gefahren für ihre Gesundheit betreffen, müssen die Anbieter Hilfe leisten und gegebenenfalls den Erziehungsberechtigten oder Notfallkontakt eines Nutzers verständigen.
Unternehmen müssen Nutzer außerdem daran erinnern, dass sie mit einer KI und nicht mit einer Person interagieren. Wird eine Abhängigkeit festgestellt, müssen Plattformen gut sichtbare Hinweise einblenden. Nutzer, die mehr als zwei Stunden am Stück mit einem KI-Begleiter verbringen, müssen Benachrichtigungen erhalten, die sie dazu auffordern, ihre Nutzung zu beobachten.
Die Vorschriften untersagen Anbietern außerdem, Minderjährigen virtuelle romantische Partner oder virtuelle Familienmitglieder anzubieten. Unternehmen, die Nutzer unter 14 Jahren bedienen, müssen die Zustimmung der Eltern einholen und spezielle Sicherheitsfunktionen für Kinder bereitstellen, darunter Nutzungsbegrenzungen und Hinweise auf die Realität.
Über die Sicherheit der Nutzer hinaus stärken die Regeln den Datenschutz, indem sie Unternehmen verbieten, Interaktionsdaten ohne Zustimmung an Dritte weiterzugeben, sofern dies nicht gesetzlich vorgeschrieben ist. Anbieter dürfen sensible Interaktionsdaten außerdem nicht ohne Zustimmung der Nutzer für das Training von KI verwenden und müssen Nutzern erlauben, ihre Chatverläufe zu kopieren oder zu löschen.
Größere Anbieter, darunter solche mit mehr als 1 Million registrierten Nutzern oder 100.000 monatlich aktiven Nutzern, müssen Sicherheitsprüfungen durchführen und den Provinzbehörden vor oder während des Betriebs Berichte vorlegen. Verstöße können zu Verwarnungen, einer Aussetzung des Dienstes oder Geldstrafen von bis zu 200.000 Yuan (etwa 30.000 US-Dollar) führen, wenn das Leben, die Gesundheit oder die Sicherheit von Nutzern geschädigt wird.
Unternehmen beginnen mit der Umsetzung
Chinas große KI-Unternehmen haben bereits damit begonnen, ihre Produkte anzupassen. Laut Xinhua kündigten unter anderem Doubao, Qwen und Yuanbao kürzlich die Aussetzung bestimmter Funktionen ihrer KI-Agenten an, noch bevor die Regeln in Kraft traten.
The Wall Street Journal berichtete außerdem, dass Alibaba und ByteDance ihre Nutzer darüber informierten, dass einige Chatbot-Funktionen zur Einhaltung der neuen Anforderungen deaktiviert würden.
Was die Regeln für die KI-Branche bedeuten
Der neue Rahmen signalisiert, dass KI-Entwickler möglicherweise nicht länger ausschließlich danach beurteilt werden, wie fesselnd ihre Produkte sind. Unternehmen, die emotional intelligente KI entwickeln, müssen zunehmend nachweisen, dass ihre Systeme Nutzer schützen, persönliche Daten sichern und keine ungesunde Abhängigkeit fördern können.
Das verursacht für Entwickler neue Compliance-Kosten, könnte aber auch das künftige KI-Design prägen und Unternehmen zu Assistenten bewegen, die Nutzer unterstützen, ohne menschliche Beziehungen ersetzen zu wollen. Der Nachteil ist, dass einige der immersivsten Begleiter-Erlebnisse in einem der größten KI-Märkte der Welt möglicherweise schwieriger oder gar nicht mehr angeboten werden können.
Lesen Sie auch: Wie China die humanoide Robotik über KI-Begleiter hinaus vorantreibt, erfahren Sie in unserer Berichterstattung über Unitrees neuesten Roboter-Wettbewerb, der die wachsenden Ambitionen des Landes im Bereich verkörperter KI und beim Testen von Robotern beleuchtet