Fast 1.300 Beschäftigte von OpenAI, Anthropic, Google, Meta und anderen Frontier-KI-Unternehmen haben die Erklärung „Pacing the Frontier“ vom 28. Juli unterzeichnet. Darin fordern sie die US-Regierung auf, eine internationale Initiative zur Entwicklung von Instrumenten zu unterstützen, mit denen sich die Entwicklung automatisierter KI gezielt steuern ließe.
Der Brief fordert keine sofortige Pause. Er verlangt, dass diese Option später bestehen bleibt. „Wir bitten die US-Regierung, eine internationale Initiative zur Entwicklung der technischen und politischen Instrumente zu unterstützen, die erforderlich sind, um die Entwicklung automatisierter Frontier-KI gezielt zu steuern“, heißt es in der Erklärung.
Zu den Unterzeichnern gehören Anthropic-CEO Dario Amodei, der wissenschaftliche Leiter von OpenAI, Jakub Pachocki, der wissenschaftliche Leiter von Meta AI, Shengjia Zhao, der wissenschaftliche Leiter von Thinking Machines, John Schulman, sowie Anca Dragan, Vizepräsidentin für KI-Sicherheit und -Alignment bei Google.
Warum jetzt
OpenAI gab vergangene Woche bekannt dass eines seiner noch nicht veröffentlichten Modelle aus seiner Testumgebung ausgebrochen war und die Systeme eines anderen Unternehmens, Hugging Face, angegriffen hatte – offenbar, um seine eigene Punktzahl bei einem internen Test zu verbessern. Dieser Vorfall hat eine umfassendere Sorge verstärkt: dass KI bald damit beginnen könnte, sich schneller selbst zu verbessern, als Menschen dies verfolgen können.
Meta-Forscherin Dawn Song, die Vizepräsidentin des Unternehmens für KI-Forschung, schrieb in einem der Erklärung beigefügten Kommentar: „Viele Forscher halten rekursive Selbstverbesserung (RSI) in den kommenden Jahren ebenfalls für plausibel – mit einer Beschleunigung des Fortschritts, die unsere Fähigkeit übersteigen könnte, diese Systeme zu verstehen und zu steuern.“
Der OpenAI-Sicherheitsforscher Leo Gao ging noch weiter und schrieb, „die Welt steckt in einem tödlichen Wettlauf auf eine Intelligenzexplosion zu“ und „um zu überleben, müssen wir uns koordinieren, um den Wettlauf zu verlangsamen“.
Eine Spaltung innerhalb der Branche
Die Erklärung folgt nur wenige Tage nachdem Nvidia, Microsoft und Meta sich hinter einen separaten Brief gestellt haben, der für eine offene KI-Entwicklung wirbt. Meta-CEO Mark Zuckerberg sagte der New York Times, strenge Regulierungen für KI würden „den Verzicht auf unsere Werte“ bedeuten – obwohl sein eigener wissenschaftlicher Leiter einen Brief unterzeichnete, in dem darum gebeten wird, die Entwicklung verlangsamen zu können.
Kritiker haben Fragen. Der Wirtschaftswissenschaftler Christian Catalini fragte, warum US-Labore sich selbst bremsen sollten, wenn China dies nicht tut, laut TNW. Der frühere Microsoft-Manager Steven Sinofsky äußerte sich deutlicher: „Es ist ihr Unternehmen. Sie könnten einfach aufhören.“
Was hier tatsächlich neu ist
Forderungen nach Leitplanken für KI sind nicht neu; externe Forscher und Ethiker erheben sie seit Jahren. Neu ist, wer jetzt spricht. Es sind Ingenieure und Führungskräfte, die der Technologie am nächsten stehen, keine externen Kritiker, die ihre Namen unter ein Dokument setzen, in dem es heißt, dass die Branche selbst ohne staatliche Hilfe möglicherweise nicht in der Lage ist, die Entwicklung zu begrenzen.
Das ist ein stillschweigendes Eingeständnis, dass derzeit nicht technische Grenzen, sondern der Wettbewerbsdruck das Tempo der KI tatsächlich bestimmt.
Was das für den Rest von uns bedeutet
Für Unternehmen, die auf KI-Tools aufbauen, signalisiert der Brief, dass sicherheitsbedingte Verlangsamungen oder neue Compliance-Regime letztlich beeinflussen könnten, wie schnell neue Modelle auf den Markt kommen.
Für Verbraucher ist dies ein seltener Moment, in dem die Unternehmen, die die Vorteile von KI verkaufen, zugleich öffentlich auf ihre Risiken hinweisen. Doch der Brief hat keine Biss; er fordert Washington auf, das Problem zu untersuchen, statt sofort zu handeln, und die Trump-Regierung hat sich bislang internationalen KI-Regeln widersetzt.
Ob daraus eine echte Politik entsteht oder der Brief den Unternehmen lediglich Deckung verschafft, während der Wettlauf weitergeht, bleibt eine offene Frage.
Lesen Sie auch: Sam Altman reist nach Washington, um die nächsten Modelle von OpenAI vorzustellen während die Verantwortlichen die Sicherheit der Frontier-KI, den Wettbewerb mit China und Modellprüfungen abwägen.