-2.png?w=1024)
Die KI-Kennzeichnung in Europa ist nicht länger freiwillig. Unternehmen müssen Nutzer nun darüber informieren, wenn sie mit bestimmten KI-Systemen interagieren, und offenlegen, wenn erfasste Inhalte durch KI erzeugt oder manipuliert wurden.
Neue Transparenzpflichten gemäß der EU-KI-Verordnung sind am 2. August in Kraft getreten. Sie schaffen unterschiedliche Anforderungen für Unternehmen, die KI-Systeme anbieten, und solche, die sie einsetzen. Die Regeln gelten für Chatbots, Deepfakes, biometrische Tools und bestimmte KI-generierte Inhalte von öffentlichem Interesse.
Die neuen Offenlegungspflichten der EU für KI
Die Europäische Kommission erklärte, Unternehmen müssten Nutzer klar darüber informieren, wenn diese mit einem KI-System statt mit einer realen Person interagieren. Die Pflicht kann für Chatbots, KI-Agenten, Avatare und andere interaktive Systeme gelten, sofern deren künstliche Natur nicht bereits offensichtlich ist.
Anbieter, also Unternehmen, die KI-Systeme entwickeln und vermarkten, müssen diese Systeme so konzipieren, dass sie die erforderlichen Offenlegungen unterstützen. Betreiber, darunter Plattformen und Dienste, die KI-Systeme nutzen, sind dafür verantwortlich, Nutzer zu informieren und erfasste Inhalte in den von den Regeln vorgesehenen Situationen zu kennzeichnen.
Einige Unternehmen könnten sowohl als Anbieter als auch als Betreiber agieren, The Verge berichtete, was sie für Pflichten auf beiden Seiten der KI-Lieferkette verantwortlich machen könnte.
Welche KI-Systeme und Inhalte erfasst sind
Die Regeln gelten für KI-generierte oder manipulierte Bilder, Audio- und Videoinhalte, die realen Personen, Objekten, Orten, Entitäten oder Ereignissen ähneln und fälschlicherweise authentisch oder wahrheitsgetreu erscheinen.
Unternehmen müssen außerdem den Einsatz von Systemen zur Emotionserkennung und zur biometrischen Kategorisierung offenlegen.
Laut der Kommission müssen KI-generierte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, gekennzeichnet werden, wenn sie keiner menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurden. Die Anforderung soll Menschen dabei helfen einzuschätzen, ob die Informationen aus einem von Menschen gesteuerten redaktionellen Prozess oder einem automatisierten System stammen.
Wie Kennzeichnungen und maschinenlesbare Markierungen funktionieren
Erfasste Inhalte müssen eine klare und sichtbare Offenlegung sowie maschinenlesbare Markierungen enthalten, anhand derer Systeme erkennen können, dass sie künstlich erzeugt oder manipuliert wurden.
Die Kommission hat eine Reihe von Symbolen für die KI-Offenlegung erstellt, die Unternehmen übernehmen können. Die Symbole sind freiwillig, die Kennzeichnungspflichten jedoch verbindlich.
Wasserzeichen, Metadaten und andere digitale Markierungen können Unternehmen dabei helfen, die technischen Anforderungen zu erfüllen. Plattformen wie Meta und TikTok haben bereits eigene KI-Kennzeichnungen eingeführt, doch Unterschiede zwischen den Plattformen könnten dazu führen, dass die Offenlegungen für Nutzer weniger einheitlich ausfallen.
Euronews berichtete, Google habe gewarnt, dass sich überschneidende Kennzeichnungen und rechtliche Hinweise eher Verwirrung stiften als für einen klareren Kontext sorgen könnten.
Fristen, Ausnahmen und mögliche Bußgelder
Die Transparenzpflichten gelten sofort für neue KI-Systeme, die nach dem 2. August eingeführt werden. Systeme und Dienste, die vor diesem Datum veröffentlicht wurden, haben bis zum 2. Dezember 2026 Zeit, die Anforderungen zu erfüllen.
Die Regeln gelten im Allgemeinen für die berufliche Nutzung von KI und nicht für Einzelpersonen, die die Technologie ausschließlich für persönliche Zwecke einsetzen. Euronews wies außerdem auf Ausnahmen für bestimmte künstlerische, kreative, satirische und fiktionale Werke hin.
Für die Durchsetzung sind die nationalen Marktüberwachungsbehörden, das Europäische KI-Amt und der Europäische Datenschutzbeauftragte zuständig, wenn EU-Institutionen betroffen sind.
Unternehmen, die die Vorschriften nicht einhalten müssen mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes rechnen. EU-Institutionen, -Einrichtungen und -Agenturen können mit Strafen von bis zu 750.000 Euro belegt werden. Die Kommission erklärte, die Behörden sollten bei der Verhängung von Sanktionen gegen kleine und mittlere Unternehmen sowie kleine Mid-Cap-Unternehmen die Verhältnismäßigkeit berücksichtigen.
Wie sich Unternehmen auf die Einhaltung der Vorschriften vorbereiten können
Unternehmen sollten zunächst feststellen, ob sie als KI-Anbieter, Betreiber oder beides einzustufen sind. Anschließend können sie ermitteln, welche Kundeninteraktionen, Veröffentlichungsprozesse und Tools für synthetische Medien unter die Regeln fallen.
Unternehmen, die KI-Plattformen von Drittanbietern nutzen, sollten außerdem klären, welche Offenlegungsfunktionen der Anbieter bereitstellt und welche Verantwortlichkeiten bei dem Unternehmen verbleiben, das das System einsetzt. Bestehende Tools müssen möglicherweise vor Ablauf der Frist im Dezember bei Nutzerhinweisen, Inhaltskennzeichnungen, Metadaten oder redaktionellen Prüfprozessen aktualisiert werden.
Die Regeln werden möglicherweise keine irreführenden KI-Inhalte beseitigen, aber sie erhöhen die Kosten dafür, Nutzer im Unklaren zu lassen. Für Unternehmen, die in Europa tätig sind, gehört Transparenz nun zum Einsatz von KI und ist keine Funktion, die später hinzugefügt werden kann.
Weitere Hintergründe finden Sie in EU legt Fahrplan für Kennzeichnung von Deepfakes und KI-Inhalten fest.