Das KI-Büro der Europäischen Union (EU) gibt mit der Veröffentlichung des ersten Entwurfs des Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck den Ton dafür an, wie eine ethische KI-Regulierung aussehen sollte. Das Dokument legt die Grundsätze für die verantwortungsvolle Entwicklung und das Risikomanagement von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) fest, etwa großen Sprachmodellen, Tools zur Bilderzeugung, lernenden Agenten und mehr.
Obwohl GPAI seine Effizienz und Vielseitigkeit mehr als unter Beweis gestellt hat, ist die Technologie nicht risikofrei. Das Risiko von Verzerrungen, massenhafter Desinformation und Missbrauch hat Gesetzgeber und Öffentlichkeit alarmiert. Der erste Entwurf des KI-Verhaltenskodex geht diese Probleme an, indem er Leitlinien für Transparenz, Rechenschaftspflicht, Sicherheit und Risikomanagement schafft.
Der Verhaltenskodex ist noch nicht in Kraft, doch das KI-Büro der EU steht unter Druck, ihn bis Mai 2025 zu finalisieren. Die Umsetzung soll im August desselben Jahres beginnen. Sobald die Gesetzgebung in Kraft ist, wird der Kodex als maßgeblicher Rahmen dienen, in dem Akteure der KI-Branche GPAI-Technologie verantwortungsvoll entwickeln und einsetzen können.
Die wichtigsten Erkenntnisse für Akteure der KI-Branche
Im Folgenden finden Sie die wichtigsten Erkenntnisse aus dem EU-Verhaltenskodex für Entwickler, KI-Anbieter und andere zentrale Akteure im KI-Ökosystem:
- Systemdetails offenlegen: Entwickler und KI-Anbieter müssen klar erläutern, wie ihre KI-Modelle mit allgemeinem Verwendungszweck funktionieren, über welche Fähigkeiten sie verfügen und welche potenziellen Risiken mit ihrer Nutzung verbunden sind.
- Risikoprotokolle etablieren: Entwickler und Anbieter werden dazu angehalten, Sicherheits- und Schutzrahmenwerke (SSF) aufzubauen, um Risiken zu erkennen, zu melden und zu minimieren. Dies ist besonders wichtig für GPAI-Systeme mit hohem Risiko, die etwa in der Personalgewinnung, beim Profiling, im Gesundheitswesen oder im Finanzwesen eingesetzt werden.
- Kontinuierliche Risikobewertung und -minimierung: Die Minimierung von KI-Risiken ist keine einmalige Angelegenheit. Der Verhaltenskodex sieht vor, dass Risiken regelmäßig erkannt, bewertet und minimiert werden müssen, um eine sichere und ethische Nutzung von GPAI zu gewährleisten.
Eine gemeinsame Anstrengung für die KI-Regulierung
Das Besondere an diesem Verhaltenskodex ist die Einladung an Entwickler, KI-Anbieter, Forschende und Interessenvertretungen, ihre Vorschläge zur Zukunft der KI-Regulierung einzubringen. Dies zeigt, dass das KI-Büro der EU versteht, dass es Aspekte gibt, die außerhalb seines Blickfelds liegen, und dass es auch diese blinden Flecken abdecken möchte. Der Entwurf erkennt außerdem die dynamische Natur der KI-Technologie an und betont die Notwendigkeit kontinuierlicher Aktualisierungen, damit der Kodex auch im Zuge der Weiterentwicklung von KI relevant bleibt.
Wie geht es weiter?
Die EU ist mit ihrem Vorstoß zur KI-Regulierung nicht allein. Laut IAPPs Global AI Law and Policy Tracker haben Länder wie China, Kanada und die Vereinigten Staaten bereits Regelungen zur KI-Governance in Kraft oder arbeiten daran. In den USA haben 45 Bundesstaaten Gesetzesentwürfe zur KI vorgeschlagen, von denen 20 Prozent verabschiedet wurden. Viele Regierungen auf Bundesstaatenebene bilden Taskforces, um die Auswirkungen von KI zu erforschen und zu bewerten, damit Gesetzgeber geeignete Gesetze zur Eindämmung der Risiken schaffen können.
Der weltweite Schwung bei der KI-Regulierung wird so bald nicht nachlassen. Das unterstreicht, dass ethische KI nicht nur ein regionales Anliegen, sondern eine globale Notwendigkeit ist.
Lesen Sie unseren Leitfaden zum Umgang mit den ethischen Herausforderungen der KI, um mehr über dieses schwierige Thema und darüber zu erfahren, wie Unternehmen und Regierungen damit umgehen.