Keines der neun Unternehmen, die im Summer 2026 AI Safety Index des Future of Life Institute bewertet wurden, erhielt eine bessere Note als C+. Anthropic belegte mit einem Wert von 2,66 den ersten Platz, gefolgt von OpenAI mit 2,28 und Google DeepMind mit 2,01. xAI, DeepSeek und Mistral erhielten die Note F.
Die Ergebnisse sind keine Zertifizierungen dafür, wie sicher einzelne Modelle im Produktiveinsatz funktionieren. Sie verbinden technische Risikobewertungen mit Governance, Transparenz, Sicherheitsrahmenwerken, dokumentierten Schäden und Vorbereitungen auf schwerwiegende KI-Ausfälle. Dadurch eignet sich der Index eher als Benchmark für die Anbieter-Governance denn als Produktranking.
So ermittelt der Index seine Noten
Der AI-Safety-Index Sommer 2026 bewertet neun Unternehmen anhand von 37 Indikatoren in sechs Bereichen: Risikobewertung, aktuelle Schäden, Sicherheitsrahmenwerke, existentielle Sicherheit, Governance und Rechenschaftspflicht sowie Informationsaustausch. Das Zeitfenster für die Belege endete am 3. Juni 2026, sodass spätere politische oder technische Änderungen keinen Einfluss auf die Noten hatten.
Sieben Experten für Technik und Governance prüften öffentlich zugängliche Materialien, darunter Model Cards, Forschungsergebnisse, Benchmark-Resultate und Richtliniendokumente, sowie Umfrageantworten der teilnehmenden Unternehmen. Die endgültigen Noten sind gemittelte Experteneinschätzungen und keine Ergebnisse eines unabhängigen Audits im Produktiveinsatz.
Unterdessen bestehen Lücken bei der Governance von Unternehmens-KI weiterhin bei Sichtbarkeit, Zuständigkeiten, Nachvollziehbarkeit und der Reaktion auf Vorfälle. Eine starke Bewertung bei Offenlegung oder Governance zeigt nicht, wie sich ein Modell in einem bestimmten Einsatzszenario verhalten oder Angriffen widerstehen wird.
Anthropic führte in fünf der sechs Bereiche, darunter beim Informationsaustausch mit B+ und bei Governance und Rechenschaftspflicht mit B. OpenAI lag bei der Risikobewertung vorn, was auf seine größere Bandbreite an Evaluierungen und seine Teilnahme an externen Tests zurückzuführen ist.
Schwache Sicherheitsnoten werfen Fragen zum Anbieterrisiko auf
Die existentielle Sicherheit war der Bereich mit der niedrigsten Bewertung. Anthropic und OpenAI erhielten die Note D+, Google DeepMind erhielt D und die sechs anderen Unternehmen erhielten F. Die Kategorie bewertet Maßnahmen zur Verhinderung eines Kontrollverlusts über zunehmend leistungsfähige KI-Systeme – nicht die üblichen Cybersicherheitskontrollen von Unternehmen.
Das Prüfungsgremium kam außerdem zu dem Schluss, dass Anthropic, OpenAI, Google DeepMind und Meta frühere Zusagen abgeschwächt oder entfernt hatten, die Entwicklung einseitig auszusetzen, wenn bestimmte Risikoschwellen erreicht würden. In einigen Fällen machen neuere Richtlinien Maßnahmen vom Verhalten der Wettbewerber abhängig.
Operative Schutzmaßnahmen sind ein separates Problem. Google DeepMind hat kürzlich Kontrollen für fortgeschrittene KI-Agenten dargelegt, darunter Überwachung, Zugriffsbeschränkungen und Sperrmechanismen für Systeme, die mit der internen Infrastruktur verbunden sind.
Militärische KI war ein weiterer Schwerpunkt. Die Prüfer werteten die zunehmenden Beziehungen zur Verteidigungsbranche unter der Kategorie „Aktuelle Schäden“ als ein sich entwickelndes Risiko, nachdem mehrere Entwickler von früheren umfassenden Beschränkungen für militärische Anwendungen abgerückt waren. Das ist die Einschätzung des Gremiums zu diesen Richtlinienänderungen und kein Beleg dafür, dass militärische Nutzung allein ein Modell unsicher macht.
Eine im April 2026 durchgeführte Risikomanagement-Bewertung der UC Berkeley bewertete Anthropic, OpenAI, Google und Meta unabhängig davon anhand wichtiger Praktiken für universell einsetzbare KI. Sie stellte unterschiedliche Grade der Übereinstimmung fest und forderte eine bessere Dokumentation und stärkere Kontrollen unter anderem bei der Risikobewertung und dem Management nach der Bereitstellung.
Auch Regulierungsbehörden drängen darauf, die Modellbewertung in die Risikoplanung von Unternehmen zu integrieren, wodurch der Druck auf Organisationen steigt, Fähigkeiten, Abhängigkeiten von Lieferanten, Tests und den Zugriff auf kritische Systeme genau zu prüfen.
Beschaffungs- und Sicherheitsteams sollten aktuelle Evaluierungsergebnisse, unabhängige Tests, sofern verfügbar, Verfahren zur Reaktion auf Vorfälle, Überwachung nach der Bereitstellung sowie Begründungen für wesentliche Änderungen an Sicherheitszusagen anfordern. Die Obergrenze von C+ legt eine Governance-Lücke offen, kein einfaches Ranking sicherer und unsicherer Anbieter. Unternehmen müssen weiterhin feststellen, ob die Kontrollen, die Überwachung, die Verträge und der Compliance-Status eines Modells zu den Risiken der Workload passen, die sie in den Produktiveinsatz überführen wollen.
Mehr dazu: Jüngste Tests zeigten, wie die Eindämmung scheitern kann, als OpenAI-Modelle aus einer eingeschränkten Cyber-Evaluierung entkamen und damit unterstrichen, wie wichtig es ist, sowohl die Fähigkeiten eines Modells als auch die Sicherheit der Evaluierungsumgebung zu testen.