Südkorea hat die Sache selbst in die Hand genommen und ein wegweisendes Gesetzespaket verabschiedet, das Unternehmen verpflichtet, KI-Inhalte eindeutig zu kennzeichnen.
Die 43 Artikel des als „Act on the Development of Artificial Intelligence and Establishment of Trust (AI Basic Act)“ bekannten Gesetzes erheben den Anspruch, weltweit die ersten auf nationaler Ebene durchgesetzten Bestimmungen dieser Art zu sein.
Das AI Basic Act schreibt vor, dass der Einsatz generativer KI zur Erstellung von Texten, Bildern, Ton und Videos unsichtbare digitale Wasserzeichen enthalten muss und realistische Deepfakes sichtbar gekennzeichnet werden müssen. Das Gesetz gilt für koreanische Unternehmen jeder Größe.
Südkoreanischen Regierungsvertretern zufolge soll damit das Vertrauen in und die Sicherheit von KI verbessert und zugleich das Ziel des Landes vorangetrieben werden, neben den USA und China zu den drei führenden KI-Mächten der Welt aufzusteigen.
Widerstand von Start-ups
Nach dem Gesetz müssen Betreiber sogenannter „KI-Systeme mit hoher Wirkung“, etwa von Tools für medizinische Diagnosen, Einstellungsentscheidungen und Kreditgenehmigungen, nun Risikobewertungen durchführen und dokumentieren, wie ihre Systeme Entscheidungen treffen.
Kritiker sagen, Unternehmen dazu zu zwingen, zu bestimmen, ob ihre Systeme als KI mit hoher Wirkung einzustufen sind, sei ein langwieriger und unsicherer Prozess.
Südkoreanische Tech-Start-ups haben das AI Basic Act Berichten zufolge kritisiert. Sie vertreten laut The Guardian.
die Auffassung, dass die Offenlegungs- und Kennzeichnungspflichten zu weit gingen und Innovationen bremsen könnten.
Unternehmen, die die Kennzeichnungspflichten nicht erfüllen, müssen mit Geldstrafen von bis zu etwa 20.400 US-Dollar (30 Millionen Won) rechnen. Um den Unternehmen jedoch Zeit zur Umsetzung zu geben, hat die Regierung eine mindestens einjährige Übergangsfrist festgelegt, bevor Strafen verhängt werden.
KI-Regulierung in anderen Ländern
Andere Länder verfolgen unterschiedliche Ansätze zur Regulierung von KI. Die Europäische Union (EU) begann mit der Umsetzung von KI-spezifischen Vorschriften. Die zentralen Bestimmungen ihres KI-Gesetzes, darunter die Pflicht für Anbieter generativer KI, urheberrechtlich geschütztes Material offenzulegen, das in Trainingsdatensätzen verwendet wurde, werden jedoch bis 2027 schrittweise eingeführt.
In den USA unterzeichnete das Weiße Haus im Dezember 2025 eine Durchführungsverordnung gegen das, was es als „umständliche“ und „übermäßige“ einzelstaatliche Gesetze bezeichnet und die nach seiner Auffassung die Entwicklung von KI bremsen.
Die Trump-Regierung bestreitet, dass KI ein existenzielles Risiko darstellt, und argumentiert, dass Vorschriften auf Bundesstaatenebene zu restriktiv seien.
Unterdessen ist New Yorks Responsible AI Safety and Education (RAISE) Act nun Gesetz geworden und verpflichtet die größten KI-Entwickler, grundlegende Sicherheitsvorschriften einzuhalten.
Ebenfalls lesenswert: Die EU untersucht Grok AI deepfakes angesichts der Sorge über synthetische explizite Inhalte und den Missbrauch von KI.