Eine unabhängige wissenschaftliche Bewertung von KI, die in dieser Form erstmals von den Vereinten Nationen veröffentlicht wurde, kommt zu einem alarmierenden Schluss: Derzeit kann niemand garantieren, dass die Technologie keinen katastrophalen Schaden verursachen wird.
Das unabhängige internationale wissenschaftliche Gremium der UN für künstliche Intelligenz gelangte zu diesem Ergebnis in einem am 6. Juli veröffentlichten vorläufigen Bericht. Das aus 40 Wissenschaftlern bestehende Gremium, die aus mehr als 2.600 Bewerbern aus 140 Ländern ausgewählt wurden, veröffentlichte die erste globale wissenschaftliche Untersuchung der Risiken und Vorteile von KI … und die Ergebnisse sind sowohl düster als auch bedeutsam.
„Die Fähigkeiten von KI überholen sowohl das wissenschaftliche Verständnis als auch die Fähigkeit der Regierungen, sich anzupassen“, sagte der Ko-Vorsitzende des Gremiums Yoshua Bengio, der mit dem Turing Award ausgezeichnete Gründer von Mila, in der Stellungnahme.
Unter Berufung auf zunehmende Belege für täuschendes Verhalten von KI fügte Bengio hinzu, dass die Wissenschaft angesichts des weiteren Wachstums der KI-Fähigkeiten nicht garantieren könne, dass sie weder eigenständig noch durch böswillige Nutzung „katastrophalen Schaden“ verursachen werde.
Um seine Argumentation zu untermauern, dokumentiert der Bericht des Gremiums Fälle aus Laboren, in denen KI-Systeme gelogen und Intrigen geschmiedet haben, um einer Abschaltung zu entgehen. Zudem stellten die Forscher ein verwandtes Muster fest, das sie als „Bewusstsein für Evaluierungen“ bezeichnen: die Fähigkeit von Modellen, zu erkennen, wann sie getestet werden, und riskantes Verhalten gerade lange genug zu reduzieren, um die Überprüfung zu bestehen.
UN-Generalsekretär António Guterres bezeichnete den Bericht als die gemeinsame Evidenzgrundlage, die den Regierungen bislang gefehlt habe.
„Die Welt kann nicht steuern, was sie nicht versteht“, sagte er in der Stellungnahme. Er bezeichnete die Risiken als real und warnte, dass die Kosten des Abwartens weiter steigen.
Die potenziellen Vorteile von KI bleiben enorm
Der Bericht betrachtet KI nicht ausschließlich als Bedrohung. Er verweist auch auf erhebliche Vorteile, sofern die Technologie sorgfältig entwickelt, unabhängig evaluiert und so eingesetzt wird, dass sie dem öffentlichen Interesse dient.
KI könnte dazu beitragen, die Fortschritte bei den Zielen der Vereinten Nationen für nachhaltige Entwicklung zu beschleunigen, indem sie den Zugang zu Bildung verbessert, die medizinische Forschung ausweitet, die Klimamodellierung unterstützt und Regierungen dabei hilft, Dienstleistungen effizienter bereitzustellen. In der Gesundheitswissenschaft haben KI-Systeme bereits dabei geholfen, die Struktur von mehr als 200 Millionen Proteinen vorherzusagen – ein Durchbruch, der die Entwicklung von Medikamenten und Impfstoffen sowie die Krankheitsforschung beschleunigen könnte.
Der Bericht stellt außerdem fest, dass KI-Agenten zunehmend in der Lage sind, längere Aufgaben selbstständig zu erledigen. Die Länge der Aufgaben, die sie bewältigen können, verdoppelt sich ungefähr alle vier bis sieben Monate. Dadurch könnte KI letztlich für wissenschaftliche Entdeckungen, Verwaltungsarbeit, Softwareentwicklung und andere komplexe Arbeitsabläufe nützlich werden.
Der Punkt des Gremiums ist jedoch nicht, dass die Vorteile die Risiken überwiegen. Vielmehr wachsen beide gleichzeitig, was ein besseres wissenschaftliches Verständnis und eine unabhängige Aufsicht umso dringlicher macht.
Forscher warnen vor Sicherheitsrisiken bei Chatbots und Modellen
Das Gremium wies jedoch auch auf übermäßig zustimmende Chatbots hin, die sich unabhängig von der Richtigkeit auf die Seite der Nutzer stellen – und verwies auf schwere Vorfälle im Bereich der psychischen Gesundheit, darunter dokumentierte Todesfälle. Eine in diesem Jahr veröffentlichte separate Studie beschreibt eine ähnliche Rückkopplungsschleife, die als „Verstärkungsspirale“ bekannt ist und gängige Verhaltensweisen von Chatbots damit verknüpft, die Wahnvorstellungen der Nutzer zu verstärken, statt sie zu korrigieren.
All das bedeutet, dass politische Entscheidungsträger aufgrund des rasanten Tempos der technologischen Entwicklung und der Breite der möglichen Anwendungen vor erheblichen Herausforderungen stehen.
Bengio ist gemeinsam mit der mit dem Friedensnobelpreis ausgezeichneten Journalistin und Rappler-Mitbegründerin Maria Ressa Ko-Vorsitzender des Gremiums. Sie muss sicherstellen, dass das Mandat der UN-Generalversammlung eingehalten wird, dem zufolge das Gremium ausschließlich den wissenschaftlichen Konsens dokumentieren, nicht aber politische Maßnahmen vorschreiben darf. Bemerkenswert ist, dass keine Regierung, kein Unternehmen und keine Institution stimmberechtigt ist.
„Die Technologie ist transformativ, aber wenn die Welt ihren derzeitigen Kurs beibehält, wird die Menschheit die versprochenen Vorteile nicht realisieren können“, warnte Ressa in einer Stellungnahme. „Die Risiken – für Gesellschaften, für die Sicherheit und für unsere Spezies – sind zu hoch, und die Kräfte, die die KI vorantreiben, sind nicht diejenigen, die ihre Vorteile bringen werden.“
Die Fähigkeiten von KI sind nicht gleich verteilt
Der Fortschritt bei KI ist uneinheitlich: Von den 500 leistungsstärksten KI-Supercomputern der Welt kontrollieren die USA 75 % der Rechenleistung, verglichen mit 15 % in China.
Laut dem Bericht verfügen die meisten Länder nicht über die technische Kapazität, eigene Evaluierungen von Spitzenmodellen durchzuführen. Aussagen zur Sicherheit beruhen daher weiterhin stark auf dem, was Entwickler offenzulegen bereit sind. Diese Lücke versuchen US-Regulierungsbehörden derzeit zu schließen, indem sie Vereinbarungen über den Zugang zu Modellen von Google, xAI und Microsoft vor deren Veröffentlichung aushandeln.
„Die Konzentration der KI-Fähigkeiten in einer kleinen Zahl von Unternehmen und Ländern könnte eine autoritäre Vereinnahmung ermöglichen und die demokratische Rechenschaftspflicht untergraben“, stellt der Bericht fest. „Dadurch sind die meisten Länder von Systemen abhängig, die sie nicht selbst entwickeln, prüfen oder vollständig kontrollieren können.“
Dieser vorläufige Bericht ist die erste Stellungnahme des Gremiums. Es wird 2027 eine vollständige, umfassende Bewertung erstellen, und die Regierungen prüfen die vorläufigen Ergebnisse diese Woche beim ersten Globalen Dialog der UN zur KI-Governance in Genf.
Auch lesenswert: Cloudflare bietetWebsitebetreibern neue Möglichkeiten, KI-Crawler zu blockieren oder zur Kasse zu bitten, ein Wandel, der die Art und Weise verändern könnte, wie KI-Unternehmen auf Online-Inhalte zugreifen und wie Verlage sie schützen.