Anthropic informierte hochrangige Vertreter der Trump-Regierung vor dem Zugang externer Organisationen über sein neues Mythos-Modell. Das zeigt, wie ernst das Unternehmen die Auswirkungen des Systems auf die Cybersicherheit nimmt.
Das Modell wird nicht öffentlich veröffentlicht, und Anthropic stellt es als leistungsfähig genug dar, um einen defensiven Nutzen zu bieten, zugleich aber auch klare Risiken des Missbrauchs zu bergen.
Mythos steht im Zentrum einer weitaus größeren Debatte über KI-Sicherheit: Was passiert, wenn ein Modell Verteidigern helfen kann, gefährliche Softwarefehler schneller zu finden, zugleich aber auch Angreifern dabei helfen könnte, dieselben Schwachstellen in großem Maßstab auszunutzen? Anthropics Antwort lautet zumindest vorerst, den Zugang stark zu beschränken und sicherzustellen, dass Vertreter der Behörden verstehen, was das Modell leisten kann, bevor dieser Zugang weiter ausgeweitet wird.
Warum Anthropic Vertreter der Behörden frühzeitig informierte
Laut einem Bericht von TechCrunch über Äußerungen von Jack Clark, sagte der Anthropic-Mitgründer, das Unternehmen habe die Regierung über Mythos informiert und erwarte, auch künftige Modelle mit Regierungsvertretern zu erörtern. Clark beschrieb den Konflikt zwischen Anthropic und dem Pentagon als begrenzten Streit über Vertragsbedingungen, argumentierte jedoch, dass die Regierung weiterhin Einblick in hochmoderne KI-Systeme mit Auswirkungen auf die nationale Sicherheit benötige.
Die eigene Project-Glasswing-Ankündigung erklärt die Vorsicht des Unternehmens deutlicher. Darin heißt es, Mythos Preview habe bereits Tausende Zero-Day- und andere Schwachstellen mit hohem Schweregrad gefunden, darunter Fehler in wichtigen Betriebssystemen und Webbrowsern. Außerdem könne das Modell Softwareschwachstellen auf einem Niveau identifizieren und ausnutzen, das über dem der meisten menschlichen Forscher liege.
Anthropic zufolge ist genau dieses Risiko der Grund dafür, dass das Modell im Rahmen eines beschränkten Programms statt öffentlich bereitgestellt wird.
Diese beschränkte Einführung prägt bereits die übergeordnete Geschichte rund um Project Glasswing, Anthropics Programm, das ausgewählten Organisationen die Nutzung von Mythos für defensive Sicherheitsarbeit ermöglicht, statt das Modell allgemein öffentlich zugänglich zu machen. Anthropic zufolge gehören AWS, Apple, Cisco, JPMorganChase, Microsoft, Nvidia und Palo Alto Networks zu der Partnergruppe. Außerdem erhalten mehr als 40 weitere Organisationen Zugang, um bei der Absicherung kritischer Software zu helfen.
Ein beschränkt zugängliches Modell mit weitreichenden Folgen
Die Unterrichtung der Regierung findet zudem vor einem politisch heiklen Hintergrund statt. Anthropic steckt weiterhin in einem Streit über den Zugang des Pentagons und die Bedingungen für militärische KI. Dadurch befindet sich das Unternehmen in einer ungewöhnlichen Position: Es liegt mit einem Teil der Regierung im Streit und teilt zugleich andernorts vertrauliche Informationen über das Modell mit Regierungsvertretern. Diese Spannung ist ein Teil dessen, was den Streit zwischen dem Pentagon und Anthropic hier zu mehr als einer Nebenhandlung macht.
Zudem wächst der Druck auf Anthropic, zu beweisen, dass das Unternehmen mit einem Modell umgehen kann, das seiner Aussage nach zu riskant für eine allgemeine Veröffentlichung ist. Frühere Bedenken wegen der Mythos-Leak-Episode hatten den Druck auf Anthropic bereits erhöht, zu zeigen, dass das Unternehmen ein Modell, das seiner Aussage nach zu riskant für eine allgemeine Veröffentlichung ist, sicher handhaben kann. Die Unterrichtung von Vertretern der Behörden vor der Ausweitung des Zugangs hilft, diesen Standpunkt zu untermauern, macht aber auch deutlich, wie stark die Verantwortung für die Governance weiterhin beim Unternehmen selbst liegt.
Vorerst zieht Anthropic offenbar eine klare Grenze um Mythos: begrenzter Zugang, ausgewählte Partner und eine frühzeitige Information der Regierung. Ob dies zu einem Standardverfahren für die Veröffentlichung hochmoderner KI wird, könnte davon abhängen, wie schnell die Politik zu den Modellen aufschließt, die nun an der Grenze der Cybersicherheit eintreffen.
Lesen Sie auch: KI legt Qualifikationslücke bei der Einstellung von Cybersicherheitsexperten offen.