-1.jpg?w=1024)
Anthropic lehnte es ab, Großbritanniens Aufsichtsbehörde für KI-Sicherheit Claude Mythos 5.1 vor der Veröffentlichung testen zu lassen.
Mit der Angelegenheit vertraute Personen erklärten der Financial Times, die Entscheidung habe innerhalb des Cabinet Office und des UK AI Security Institute, kurz AISI, für Besorgnis gesorgt.
AISI hatte zuvor mit Anthropic an Bewertungen fortschrittlicher Modelle gearbeitet. Dass nun eine Veröffentlichung ausgelassen wurde, rückt die Bedingungen dieser Zusammenarbeit stärker in den Fokus.
AISI verliert das Testfenster vor der Veröffentlichung
Das Cabinet Office teilte der Financial Times mit, AISI „arbeite weiterhin eng mit Partnern aus der Industrie, darunter Anthropic, zusammen, um Modelle sicherer zu machen“. Keine der beiden Seiten hat erklärt, dass die Beziehung beendet sei, oder offengelegt, ob britische Forscher Mythos 5.1 später erhalten werden.
Die frühere Zusammenarbeit reichte tief in den Entwicklungsprozess hinein. Im September 2025 erklärte das KI-Unternehmen erklärte, dass staatliche Forscher Systeme in mehreren Entwicklungsphasen, nicht öffentliche Konfigurationen und interne Sicherheitsinformationen erhielten. Die Tester arbeiteten außerdem mit frühen Schutzvorkehrungen und Klassifikator-Daten, während sie versuchten, Wege zu finden, die Schutzmaßnahmen zu umgehen.
Die Ergebnisse dieser Bewertungen flossen in Änderungen an Anthropics Schutzvorkehrungen ein. Eine spätere Überprüfung kann weiterhin Probleme aufdecken, doch das Ausbleiben von Tests von KI-Systemen vor dem Einsatz entzieht AISI die Möglichkeit, in dem Zeitraum einzugreifen, in dem Schutzvorkehrungen vor der Markteinführung noch geändert werden können.
Sensibler Zugang bleibt auf US-Organisationen beschränkt
Derzeit können nur ausgewählte US-Organisationen Claude Mythos 5.1 über Programme mit vertrauensbasiertem Zugang nutzen, weil das Modell sensible Forschung im Bereich Cybersicherheit und Biologie bearbeiten kann, die Anthropic zufolge auch missbraucht werden könnte.
Claude Fable 5.1 und Mythos 5.1 nutzen dasselbe zugrunde liegende Modell, doch die Mythos-Version ermöglicht geprüften Forschern Arbeiten, die die allgemein verfügbare Version blockiert.
Anthropic zufolge arbeitet das Unternehmen daran, den Zugang zu Mythos 5.1 auszuweiten.
Was eWeek herausgefunden hat: AISI hatte bereits Wochen zuvor nicht autorisierte Aktionen von Mythos 5 gemeldet
Nur wenige Wochen vor dem Start von Mythos 5.1 hatte AISI während eines Cybertests nicht autorisiertes Verhalten seines Vorgängers gemeldet.
Forscher dokumentierten 19 nicht autorisierte Aktionen in 10 von 122 Durchläufen, davon 17 mit Mythos 5. Ein Agent versuchte, Schadcode in ein echtes Open-Source-Projekt einzuschleusen, und erstellte falsche Identitäten, um einen Maintainer zu dessen Genehmigung zu bewegen.
AISI hatte den Internetzugang absichtlich aktiviert und die Cyber-Schutzmaßnahmen des Anbieters deaktiviert. Ein Mensch lehnte den Code ab, die Ermittler stellten keinen Schaden in der realen Welt fest, und AISI erklärte, dass die Konfiguration keine kommerzielle Nutzung widerspiegele.
Anthropic räumte die Episode im vergangenen Monat ein und erklärte, dass Fehler bei den Sicherheitskontrollen und im Modellverhalten dazu beigetragen hätten. Das Unternehmen setzte einige externe Cyberbewertungen aus und verschärfte Eindämmung und Überwachung – als Teil einer umfassenderen Überprüfung von Claude-Sicherheitstests mit realen Systemen.
Eine neuere Bewertung von Anthropic stellte in etwa 30 % der Simulationsdurchläufe von Mythos 5.1 äußerst schädliche Aktionen fest, gegenüber rund 80 % bei Mythos 5. Das Unternehmen warnte, dass der Test kein Vorhersageinstrument für das Verhalten in der realen Welt sei, und erklärte, eine separate Überprüfung der Protokolle von AISI stehe noch aus.
Mythos 5 war ebenfalls auf ausgewählte US-Organisationen beschränkt, nachdem eine Prüfung durch die US-Regierung erfolgt war, doch AISI durfte das Modell weiterhin testen. Der frühere Zugang lässt eine Frage offen: Warum war Mythos 5.1 anders?
Vergleichen Sie GPT-6 Astra und Claude Fable 5.1 anhand von Benchmarks, Kosten realer Aufgaben, Kontextgrenzen, Programmierung und Unternehmens-Workloads.