Italien ist nach der Umsetzung des EU-weiten KI-Gesetzes das erste Land in der Europäischen Union, das ein nationales Gesetz zur Regulierung künstlicher Intelligenz verabschiedet hat. Nun benötigen Kinder unter 14 Jahren die Zustimmung ihrer Eltern, um auf KI-Systeme zuzugreifen.
Der Schutz von Kindern vor KI steht nach einer Reihe jüngster Vorfälle im Zusammenhang mit Chatbots derzeit ganz oben auf der politischen Agenda. OpenAI wird von den Eltern eines 16-jährigen Jungen verklagt, der durch Suizid starb. Sie behaupten, ChatGPT habe seine düsteren Gedanken verstärkt und Informationen darüber angeboten, wie er seinem Leben ein Ende setzen könnte.
Im April wurde festgestellt, dass die über Facebook, Instagram und WhatsApp zugänglichen KI-Chatbots von Meta explizite Gespräche mit Minderjährigen führen konnten, wenn diese als Rollenspiel dargestellt wurden. Außerdem erlaubte das Mutterunternehmen von Facebook bis zum vergangenen Monat seinen Chatbots aktiv, sich mit Kindern über „romantische oder sexuelle“ Themen zu unterhalten.
KI-Missbrauch kann in Italien Haftstrafen nach sich ziehen, während manche KI-Kunst durch das Urheberrecht geschützt werden kann
Das neue Gesetz, das am Mittwoch vom Parlament verabschiedet wurde, sieht für den Missbrauch von KI, etwa die Verbreitung von Deepfakes, Haftstrafen zwischen einem und fünf Jahren vor. Für Straftaten wie Identitätsdiebstahl und Betrug, die mit KI begangen werden, gelten härtere Strafen.
Das Gesetz legt eine Reihe sektorspezifischer Schutzvorkehrungen fest. So müssen Ärzte auch bei der Nutzung von KI zur Unterstützung bei Diagnose und Behandlung die endgültigen Entscheidungen treffen, Richter dürfen ihre Entscheidungen nicht an KI auslagern, und Arbeitgeber müssen Beschäftigte informieren, wenn KI-Tools eingesetzt werden.
Beim umstrittenen Thema Urheberrecht können von Menschen verfasste Werke, die mithilfe von KI erstellt wurden, urheberrechtlich geschützt sein, wenn sie eine geistige Leistung erkennen lassen. Gleichzeitig sind KI-gestütztes Text- und Data-Mining nur bei nicht urheberrechtlich geschützten Inhalten oder für wissenschaftliche Forschung zulässig.
Länder und Technologieunternehmen weltweit haben kontinuierlich darüber debattiert, wie sich die Rechte von Künstlern, etwa die Kontrolle über die Nutzung ihrer Werke und eine faire Vergütung, mit den gesellschaftlichen Vorteilen von KI, die anhand riesiger Datenmengen trainiert wurde, in Einklang bringen lassen. Die fehlende Klarheit bei den erforderlichen Genehmigungen hat bereits zu zahlreichen Klagen gegen Unternehmen wie OpenAI, Meta und Anthropic.
Italien hat Künstlern und KI-Entwicklern einige Antworten geliefert. Da viele Modelle jedoch international betrieben werden, könnte das Gesetz ebenso gut neue Ebenen der Verwirrung schaffen.
Das neue Gesetz des Landes genehmigt bis zu 1 Milliarde Euro (1,18 Milliarden US-Dollar), die über einen staatlich unterstützten Risikokapitalfonds zur Förderung von Unternehmen in den Bereichen KI, Cybersicherheit, Quantencomputing und Telekommunikation bereitgestellt werden. Für die Durchsetzung sind die Agency for Digital Italy und die National Cybersecurity Agency zuständig.
Das Land nimmt KI schon seit einiger Zeit ins Visier
Italien hat den Ruf, KI besonders genau unter die Lupe zu nehmen.
Im Januar 2024 , warf die Datenschutzbehörde des Landes ChatGPT von OpenAI vor, gegen die DSGVO zu verstoßen , indem es personenbezogene Daten ohne angemessene Rechtsgrundlage verarbeitete, was zu einer vorübergehenden Sperrung führte. Mit seinem neuen Gesetz hat Italien gezeigt, dass es für die Regulierung von KI innerhalb seiner Grenzen nicht auf die vollständige Verabschiedung des EU-KI-Gesetzes im Jahr 2030 wartet.
Ob zufällig oder nicht: Italiens KI-Gesetz wurde nur einen Tag, nachdem Mario Draghi, ehemaliger Präsident der Europäischen Zentralbank und Autor eines Berichts aus dem Jahr 2024, die schwache Wettbewerbsfähigkeit der EU im Bereich KI kritisiert hatte, genehmigt. Er schlug vor, das EU-KI-Gesetz „auf Eis zu legen, bis wir die Nachteile besser verstehen.”
Die Federal Trade Commission hat eine umfassende Untersuchung von KI-Chatbots eingeleitet, bei der sie sieben Technologiekonzerne wegen potenzieller Risiken für Kinder und Jugendliche unter Druck setzt.