-2.png?w=1024)
K自在? Europas KI-Kennzeichnungen sind nicht länger optional. Unternehmen müssen Nutzer jetzt darauf hinweisen, wenn sie mit bestimmten KI-Systemen interagieren, und offenlegen, wenn entsprechende Inhalte von einer KI erstellt oder manipuliert wurden.
Neue Transparenzpflichten gemäß dem EU-KI-Gesetz traten am 2. August in Kraft. Sie schaffen unterschiedliche Anforderungen für Unternehmen, die KI-Systeme anbieten, und solche, die sie einsetzen. Die Regeln betreffen Chatbots, Deepfakes, biometrische Tools und bestimmte KI-generierte Inhalte von öffentlichem Interesse.
Die neuen Offenlegungspflichten der EU für KI
Die Europäische Kommission erklärte, Unternehmen müssten Nutzer klar darauf hinweisen, wenn diese mit einem KI-System statt mit einer echten Person interagieren. Die Pflicht kann für Chatbots, KI-Agenten, Avatare und andere interaktive Systeme gelten, sofern deren künstliche Natur nicht bereits offensichtlich ist.
Anbieter, also Unternehmen, die KI-Systeme entwickeln und vermarkten, müssen diese Systeme so gestalten, dass sie die vorgeschriebenen Offenlegungen unterstützen. Betreiber, darunter Plattformen und Dienste, die KI-Systeme einsetzen, sind dafür verantwortlich, Nutzer zu informieren und entsprechende Inhalte in den von den Regeln genannten Situationen zu kennzeichnen.
Einige Unternehmen können sowohl als Anbieter als auch als Betreiber auftreten, The Verge berichtete, was dazu führen könnte, dass sie für Pflichten auf beiden Seiten der KI-Lieferkette verantwortlich sind.
Welche KI-Systeme und Inhalte abgedeckt sind
Die Regeln gelten für KI-generierte oder manipulierte Bilder, Audio- und Videoinhalte, die echten Personen, Objekten, Orten, Einheiten oder Ereignissen ähneln und fälschlicherweise authentisch oder wahrheitsgemäß erscheinen.
Unternehmen müssen außerdem den Einsatz von Systemen zur Emotionserkennung und zur biometrischen Kategorisierung offenlegen.
KI-generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen gekennzeichnet werden, wenn sie keiner menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurden, so die Kommission. Die Anforderung soll Menschen dabei helfen einzuschätzen, ob Informationen aus einem von Menschen geleiteten redaktionellen Prozess oder einem automatisierten System stammen.
Wie Kennzeichnungen und maschinenlesbare Markierungen funktionieren
Abgedeckte Inhalte müssen eine klare und sichtbare Kennzeichnung sowie maschinenlesbare Markierungen enthalten, anhand derer Systeme erkennen können, dass sie künstlich erzeugt oder manipuliert wurden.
Die Kommission hat eine Reihe von Symbolen zur KI-Offenlegung entwickelt, die Unternehmen übernehmen können. Die Symbole sind optional, die Kennzeichnungspflichten jedoch verbindlich.
Wasserzeichen, Metadaten und andere digitale Markierungen können Unternehmen dabei helfen, die technischen Anforderungen zu erfüllen. Plattformen wie Meta und TikTok haben bereits eigene KI-Kennzeichnungen eingeführt, obwohl Unterschiede zwischen den Plattformen dazu führen könnten, dass die Offenlegungen für Nutzer weniger einheitlich ausfallen.
Euronews berichtete, Google habe davor gewarnt, dass sich überschneidende Kennzeichnungen und rechtliche Hinweise eher für Verwirrung sorgen könnten, statt für mehr Klarheit zu sorgen.
Fristen, Ausnahmen und mögliche Geldbußen
Die Transparenzpflichten gelten unmittelbar für neue KI-Systeme, die nach dem 2. August eingeführt werden. Systeme und Dienste, die vor diesem Datum veröffentlicht wurden, haben bis zum 2. Dezember 2026 Zeit, die Vorgaben zu erfüllen.
Die Regeln gelten im Allgemeinen für die professionelle Nutzung von KI und nicht für Einzelpersonen, die die Technologie ausschließlich zu persönlichen Zwecken einsetzen. Euronews wies außerdem auf Ausnahmen für bestimmte künstlerische, kreative, satirische und fiktionale Werke hin.
Für die Durchsetzung sind die nationalen Marktüberwachungsbehörden, das Europäische KI-Amt und der Europäische Datenschutzbeauftragte zuständig, wenn EU-Institutionen beteiligt sind.
Unternehmen, die die Vorgaben nicht einhalten müssen mit Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes rechnen. EU-Institutionen, -Einrichtungen und -Agenturen können mit Strafen von bis zu 750.000 Euro belegt werden. Die Kommission erklärte, dass die Behörden bei Sanktionen gegen kleine und mittlere Unternehmen sowie kleine Unternehmen mit mittlerer Marktkapitalisierung die Verhältnismäßigkeit berücksichtigen sollten.
Wie sich Unternehmen auf die Einhaltung der Vorgaben vorbereiten können
Unternehmen sollten zunächst feststellen, ob sie als Anbieter, Betreiber oder beides gelten. Anschließend können sie ermitteln, welche Kundeninteraktionen, Veröffentlichungsabläufe und Tools für synthetische Medien unter die Regeln fallen.
Unternehmen, die KI-Plattformen von Drittanbietern einsetzen, sollten außerdem klären, welche Offenlegungsfunktionen der Anbieter bereitstellt und welche Verantwortlichkeiten bei dem Unternehmen verbleiben, das das System nutzt. Bei bestehenden Tools müssen möglicherweise Nutzerhinweise, Inhaltskennzeichnungen, Metadaten oder redaktionelle Prüfprozesse vor Ablauf der Frist im Dezember aktualisiert werden.
Die Regeln werden irreführende KI-Inhalte nicht beseitigen, aber sie erhöhen die Kosten dafür, Nutzer im Unklaren zu lassen. Für Unternehmen, die in Europa tätig sind, ist Transparenz nun Teil des KI-Einsatzes und keine Funktion, die später hinzugefügt werden kann.
Die Anforderungen bauen auf dem Fahrplan der EU vom Juni für einheitliche Offenlegungen zu Deepfakes und KI-Inhalten auf. Weitere Hintergründe finden Sie unter EU legt Fahrplan für Kennzeichnungen von Deepfakes und KI-Inhalten fest.