Südkorea hat das Heft in die Hand genommen und ein wegweisendes Gesetzespaket verabschiedet, das Unternehmen verpflichtet, KI-Inhalte eindeutig zu kennzeichnen.
Die 43 Artikel des als Gesetz zur Entwicklung künstlicher Intelligenz und zur Schaffung von Vertrauen (KI-Grundlagengesetz) bekannten Gesetzes beanspruchen, die „weltweit ersten“ zu sein, die auf nationaler Ebene durchgesetzt werden.
Das KI-Grundlagengesetz schreibt vor, dass der Einsatz generativer KI zur Erstellung von Texten, Bildern, Ton- und Videomaterial unsichtbare digitale Wasserzeichen enthalten muss und realistische Deepfakes sichtbar gekennzeichnet werden müssen. Das Gesetz gilt für koreanische Unternehmen jeder Größe.
Nach Angaben südkoreanischer Regierungsvertreter soll das Vertrauen in und die Sicherheit von KI verbessert werden, während zugleich das Bestreben des Landes vorangetrieben wird, neben den USA und China zu den drei führenden KI-Mächten der Welt aufzuschließen.
Widerstand von Start-ups
Nach dem Gesetz müssen Betreiber sogenannter „KI-Systeme mit hoher Wirkung“, etwa von Tools für medizinische Diagnosen, Einstellungsentscheidungen und Kreditgenehmigungen, nun Risikobewertungen durchführen und dokumentieren, wie ihre Systeme Entscheidungen treffen.
Kritiker sagen, Unternehmen zu zwingen festzustellen, ob ihre Systeme als KI-Systeme mit hoher Wirkung einzustufen sind, sei ein langwieriger und unsicherer Prozess.
Südkoreanische Tech-Start-ups haben das KI-Grundlagengesetz Berichten zufolge kritisiert und erklärt, die Offenlegungs- und Kennzeichnungspflichten gingen zu weit und könnten Innovationen bremsen, so The Guardian.
Regierungsvertreter haben die Behauptung zurückgewiesen, das Gesetz sei übermäßig restriktiv. Ihren Angaben zufolge zielen 80 % bis 90 % des Gesetzes darauf ab, die KI-Branche zu fördern, statt sie einzuschränken.
Unternehmen, die die Kennzeichnungspflichten nicht erfüllen, könnten mit Geldbußen von bis zu etwa 20.400 US-Dollar (30 Millionen Won) belegt werden. Um den Unternehmen jedoch Zeit zur Umsetzung zu geben, hat die Regierung eine Schonfrist von mindestens einem Jahr festgelegt, bevor Strafen verhängt werden.
KI-Regulierung in anderen Ländern
Andere Länder verfolgen bei der Regulierung von KI unterschiedliche Ansätze. Die Europäische Union (EU) hat mit der Umsetzung von KI-spezifischen Vorschriften begonnen. Die wichtigsten Bestimmungen ihres KI-Gesetzes, darunter die Pflicht für Unternehmen im Bereich generativer KI, urheberrechtlich geschütztes Material offenzulegen, das in Trainingsdatensätzen verwendet wurde, werden jedoch bis 2027 schrittweise eingeführt.
In den USA unterzeichnete das Weiße Haus im Dezember 2025 eine Durchführungsverordnung gegen die von ihm als „umständlich“ und „übermäßig“ bezeichneten Gesetze der Bundesstaaten, die nach seiner Darstellung die Entwicklung von KI behindern.
Die Trump-Regierung bestreitet, dass KI eine existenzielle Gefahr darstellt, und argumentiert, Regulierungen auf Bundesstaatenebene zu restriktiv seien.
Unterdessen ist New Yorks Responsible AI Safety and Education (RAISE) Act nun Gesetz und verpflichtet die größten KI-Entwickler, grundlegende Sicherheitsvorschriften einzuhalten.
Lesen Sie auch: Grok-KI-Deepfakes angesichts von Bedenken über synthetische explizite Inhalte und den Missbrauch von KI.