Am Dienstag veröffentlichte Anthropic ein neues KI-Modell namens Fable 5, das erste Modell der „Mythos-Klasse“ war, mit dem normale Claude-Nutzer interagieren konnten. Als Hintergrund zu Mythos: Es war das große, beängstigende Modell, das Anthropic von normalen Menschen fernhielt (aber ausgewählten Partnern zur Verfügung stellte), weil es über Cybersicherheitsfähigkeiten verfügte.
Nun scheint die Regierung am Wochenende genau das in Gang gesetzt zu haben, was.
Anthropic zufolge die US-Regierung mit einer Exportkontrollrichtlinie angeordnet hat (einer Regel, die festlegt, wer auf sensible Technologie zugreifen darf): Ausländischen Staatsangehörigen wird die Nutzung von Fable 5 oder Mythos 5 untersagt. Dazu gehören ausländische Staatsangehörige innerhalb der USA und sogar die ausländischen Mitarbeiter von Anthropic.
Da Anthropic nach eigenen Angaben Nutzer nicht in Echtzeit nach ihrer Nationalität unterscheiden kann, deaktivierte das Unternehmen beide Modelle für alle Kunden.
Das ist passiert
- Anthropic erhielt die Richtlinie am Freitag, dem 12. Juni, um 17:21 Uhr ET.
- Der Anordnung zufolge ging es um die nationale Sicherheit, konkrete Details wurden jedoch nicht genannt, so Anthropic.
- Anthropic geht davon aus, dass die Bedenken auf einen begrenzten Jailbreak von Fable 5 zurückgehen, also eine Möglichkeit, Schutzvorkehrungen zu umgehen.
- Das Unternehmen erklärt, die Demonstration habe bekannte, geringfügige Softwarefehler aufgedeckt, die auch andere Modelle identifizieren können.
- Das Wall Street Journal berichtete, dass Amazon-Forscher US-Beamte auf das Problem aufmerksam machten.
Was die Sichtweise der Regierung betrifft, ist der Tweet von David Sacks eine gute TL;DR-Zusammenfassung.
Warum das wichtig ist
Damit verschiebt sich die Landschaft der KI-Governance von „Unternehmen entscheiden, was sie veröffentlichen“ hin zu „Die Regierung kann ein Frontier-Modell jetzt auch nach dem Start zurückziehen“. Außerdem ist es mehr oder weniger das erste Mal, dass die US-Regierung die Veröffentlichung eines Modells verhindert hat (jedenfalls soweit wir wissen). Das verändert das operative Umfeld für Kunden, Entwickler und jedes globale Team, das auf US-KI aufbaut.
Das praktische Kopfzerbrechen ist gewaltig. Wenn der Zugang zu diesem Modell von der Nationalität abhängt (oder, sagen wir, von einer „genehmen“ Nationalität), benötigen KI-Anbieter möglicherweise Identitätsprüfungen, Kontrollen des Mitarbeiterzugangs und länderspezifische Modellsperren. Für ein Remote-Team ist die Frage „Wer darf das beste Modell nutzen?“ nun ein sehr reales Problem. Glücklicherweise hat World ID eine datenschutzfreundliche Lösung, die dafür eingesetzt werden könnte … aber für niemanden Beteiligten ist das eine ideale Situation.
Dieser Reddit-Thread brachte die Sorgen potenzieller Käufer ziemlich gut auf den Punkt: Wenn ein Modell über Nacht verschwinden kann, müssen Beschaffungsteams nun auch die Geopolitik seines Ursprungs berücksichtigen.
Unsere Einschätzung
Anthropic hat das irgendwie selbst heraufbeschworen? Das Unternehmen hat die Regierung geradezu darum gebeten, die Branche zu regulieren und unsichere Bereitstellungen wie diese zu blockieren.
Interessanterweise argumentiert das Unternehmen nun, dass diese Blockade den transparenten, technischen Prozess übersprungen habe, den eine solche Macht erfordert. Abgesehen von der gehörigen Ironie ist das ein gutes Argument … Wahrscheinlich wäre es besser, einen längeren Prüfungsprozess durchzuführen und Dinge zu stoppen, bevor sie öffentlich werden, um das gerade verursachte Kopfzerbrechen zu vermeiden. Jedenfalls nahm Yann LeCun dazu kein Blatt vor den Mund:
Wir können auch erkennen, wo ein staatlicher Notausschalter für wirklich gefährliche Modelle notwendig sein könnte – insbesondere wenn Cyber- oder Bio-Fähigkeiten eine echte Grenze überschreiten.
Dass Amazon das Problem gemeldet hat, ist interessant; wurden dort beispielsweise Daten gestohlen? Doch das erst zu tun, wenn ein Modell öffentlich ist, ist auf jede erdenkliche Weise chaotisch. Im Grunde brauchen Unternehmen klare Regeln, die sie einhalten können, statt Geschäftsmodelle auf Modellen aufzubauen, die mit einer einzigen, scheinbar reaktiven Richtlinie verschwinden können.
Das größere Problem
Wenn wir jetzt anfangen, den Zugang zu KI-Modellen von Land zu Land zu blockieren, was hindert China daran, dasselbe zu tun?
Das könnte bedeuten, dass US-Unternehmen keinen Zugang mehr zu offenen Frontier-Modellen mit frei verfügbaren Gewichten haben (also Modellen, deren „Gewichte“ jeder kopieren und auf eigenen Servern ausführen kann), die dazu beitragen, die KI-Preise wettbewerbsfähig zu halten und zu verhindern, dass US-Unternehmen Unternehmen überhöhte Preise berechnen, die für ihre Entwicklungs- und Automatisierungsarbeit auf diese Modelle angewiesen sind. Und das wäre für alle im KI-Ökosystem außer OpenAI und Anthropic, ehrlich gesagt, ziemlich schlecht.
Anmerkung der Redaktion: Dieser Artikel erschien ursprünglich in unserer Schwesterpublikation, The Neuron.