„Meine Herren, Sie können hier nicht kämpfen! Das ist der Kriegsraum.“
Es ist nicht ganz „Dr. Seltsam“, aber in der Welt der militärischen KI geht eine eigentümliche Art von Liebe um.
Das Pentagon liegt mit dem KI-Entwickler Anthropic wegen Schutzvorkehrungen im Streit, die verhindern sollen, dass die Regierung dessen Technologie autonom zur Zielerfassung von Waffen einsetzt und die Bevölkerung in den USA überwacht, wie drei mit der Angelegenheit vertraute Personen Reuters.
mitteilten. Die Gespräche sind ein früher Test dafür, ob das Silicon Valley, das nach Jahren angespannter Beziehungen inzwischen wieder weitgehend Washingtons Wohlwollen genießt, beeinflussen kann, wie die US-Streitkräfte und Geheimdienste zunehmend leistungsfähige KI auf dem Schlachtfeld und darüber hinaus einsetzen.
Nach monatelangen Verhandlungen über einen Vertrag im Wert von bis zu 200 Millionen US-Dollar herrscht zwischen dem US-Verteidigungsministerium und Anthropic Stillstand, wie sechs mit der Angelegenheit vertraute Personen berichteten. Sie sprachen allesamt unter der Bedingung der Anonymität, um über vertrauliche Gespräche zu sprechen.
Die Auseinandersetzung macht die wachsenden Spannungen zwischen Sicherheitsbehörden deutlich, die kommerzielle KI in großem Maßstab nutzen wollen, und Technologieunternehmen, die Einschränkungen für den Einsatz ihrer Werkzeuge durchsetzen wollen – insbesondere in tödlichen oder innenpolitischen Kontexten.
Der Stillstand
Die Haltung des Unternehmens dazu, wie seine KI-Werkzeuge eingesetzt werden dürfen, hat die Differenzen zwischen ihm und der Trump-Regierung verschärft. Die Einzelheiten waren bislang nicht bekannt.
Anthropic, gegründet von ehemaligen OpenAI-Managern und bekannt für seinen Schwerpunkt auf KI-Sicherheit, hat sich für vertragliche Schutzvorkehrungen eingesetzt, die den Einsatz seiner Modelle einschränken würden. In Gesprächen mit Regierungsvertretern äußerten Anthropic-Repräsentanten die Sorge, ihre Werkzeuge könnten dazu verwendet werden, US-Bürger auszuspionieren oder ohne ausreichende menschliche Kontrolle bei der Zielerfassung von Waffen zu helfen, wie einige der Quellen sagten.
Vertreter des Pentagons zeigten sich jedoch über diese Einschränkungen verärgert. Im Einklang mit einem Strategiememorandum des Ministeriums vom 9. Januar argumentierten sie, es müsse ihnen freistehen, kommerzielle KI-Technologie unabhängig von den internen Nutzungsrichtlinien eines Unternehmens einzusetzen, solange ein solcher Einsatz mit US-Recht vereinbar sei.
Diese Haltung spiegelt eine weiter verbreitete Auffassung im Pentagon wider, wonach operative Entscheidungen bei gewählten Politikern und militärischen Befehlshabern liegen sollten, nicht bei privaten Technologieunternehmen. Vertreter befürchten, dass von Unternehmen auferlegte Leitplanken die Flexibilität in schnelllebigen oder risikoreichen Situationen einschränken könnten.
Ein Sprecher des Verteidigungsministeriums, das die Trump-Regierung in Kriegsministerium umbenannt hat, reagierte zunächst nicht auf Bitten um eine Stellungnahme.
Anthropic erklärte, seine KI werde „von der US-Regierung in großem Umfang für Missionen der nationalen Sicherheit eingesetzt, und wir führen produktive Gespräche mit dem Kriegsministerium darüber, wie wir diese Arbeit fortsetzen können“.
Trotz der Spannungen wären Vertreter des Pentagons bei einem weiteren Vorgehen wahrscheinlich weiterhin auf die Kooperation von Anthropic angewiesen. Die Modelle des Unternehmens werden darauf trainiert, Schritte zu vermeiden, die zu Schäden führen könnten, und Mitarbeiter von Anthropic wären dafür verantwortlich, die Systeme für bestimmte Verteidigungsanwendungen zu modifizieren oder feinzujustieren, wie mehrere Quellen sagten.
Auswirkungen auf militärische KI und der Einfluss auf die Branche
Der Streit könnte das Pentagon-Geschäft von Anthropic zu einem besonders heiklen Zeitpunkt für das Unternehmen gefährden. Das in San Francisco ansässige Start-up bereitet einen möglichen Börsengang vor und hat stark in die Gewinnung von Kunden aus dem US-Sicherheitssektor investiert. Zudem strebt es eine herausragende Rolle bei der Gestaltung der staatlichen KI-Politik an und positioniert sich sowohl als Anbieter als auch als Meinungsführer für den verantwortungsvollen Einsatz von KI.
Anthropic ist eines von wenigen großen KI-Entwicklungsunternehmen, die im vergangenen Jahr Pentagon-Aufträge erhalten haben – neben Alphabets Google, Elon Musks xAI und OpenAI. Diese Vereinbarungen galten als Zeichen dafür, dass das Verteidigungsministerium kommerzielle KI aggressiver in Verteidigungsplanung, Logistik, Geheimdienstanalyse und möglicherweise Waffensysteme integrieren will.
Der aktuelle Stillstand unterstreicht jedoch eine grundlegende Frage, vor der die US-Regierung steht: Wird die Abhängigkeit von kommerziellen KI-Anbietern auch bedeuten, dass die von diesen Unternehmen gesetzten Grenzen akzeptiert werden müssen, oder werden Erfordernisse der nationalen Sicherheit die Unternehmensrichtlinien außer Kraft setzen?
Für das Silicon Valley könnte der Ausgang die künftigen Beziehungen zu Washington prägen. Sollte Anthropic seine Schutzvorkehrungen durchsetzen, könnte dies andere Unternehmen ermutigen, ähnliche Einschränkungen zu fordern. Scheitert das Unternehmen, müssen Firmen möglicherweise entscheiden, ob sie auf lukrative Regierungsaufträge verzichten oder eine breitere Nutzung ihrer Technologie akzeptieren.
Politischer Hintergrund
In einem diese Woche auf seinem persönlichen Blog veröffentlichten Essay argumentierte Anthropic-CEO Dario Amodei, KI solle die Landesverteidigung „in jeder Hinsicht unterstützen, außer in jenen, die uns unseren autokratischen Gegnern ähnlicher machen würden“. Die Äußerung spiegelt die Ansicht einiger KI-Forscher wider, dass demokratische Regierungen strengere ethische Grenzen für neue Technologien festlegen sollten – selbst wenn Rivalen dies nicht tun.
Amodei gehörte außerdem zu den Mitgründern von Anthropic, die tödliche Schüsse auf US-Bürger kritisierten, die in Minneapolis gegen Maßnahmen zur Durchsetzung des Einwanderungsrechts protestierten. Er bezeichnete sie in einem Beitrag auf X als „Horror“. Die Todesfälle haben bei einigen im Silicon Valley die Sorge verstärkt, dass Regierungsbehörden fortschrittliche Technologie, einschließlich KI, auf eine Weise einsetzen könnten, die zu Gewalt oder Verletzungen bürgerlicher Freiheiten beiträgt.
Während KI-Systeme leistungsfähiger werden und immer stärker in Einsätze der nationalen Sicherheit eingebettet sind, veranschaulicht der Streit zwischen Anthropic und dem Pentagon den umfassenderen Konflikt darüber, wer die Regeln festlegen darf.
Darren Aronofsky interpretiert den Unabhängigkeitskriegmithilfe von KI neu.