Kriegsminister Pete Hegseth hat Dario Amodei, den CEO des Künstliche-Intelligenz-Unternehmens Anthropic, für Dienstagmorgen ins Pentagon einbestellt. Dort soll es nach Angaben von Regierungsvertretern zu einer folgenreichen Konfrontation darüber kommen, wie das Militär das Flaggschiff-KI-Modell des Unternehmens, Claude, nutzen darf.
Das Treffen findet statt, während die Verhandlungen zwischen dem US-Verteidigungsministerium (DOD) und dem in San Francisco ansässigen KI-Startup einen kritischen Punkt erreicht haben. Während die meisten Kennenlerntreffen in Washington mit höflichen Händeschütteln einhergehen, machen Regierungsvertreter deutlich, dass dieses Treffen alles andere als herzlich verlaufen wird.
„Anthropic weiß, dass dies kein Kennenlerntreffen ist“, sagte ein hochrangiger Vertreter des Verteidigungsministeriums gegenüber Axios. „Dies ist kein freundliches Treffen. Das ist ein Friss-oder-stirb-Treffen.“
Diese unverblümte Einschätzung bringt die wachsende Frustration im Pentagon über ein KI-Labor zum Ausdruck, das sich als sicherheitsbewusste Alternative zu Konkurrenten wie OpenAI und Google positioniert hat, nun aber allein dasteht, weil es sich weigert, dem Militär alles zu geben, was dieses verlangt.
Das Claude-Problem
Claude ist derzeit das einzige fortschrittliche KI-Modell im Betrieb innerhalb der geheimen Netzwerke des Pentagons. Es ist tief in sensible Verteidigungs- und Geheimdienstaufgaben eingebettet, und Militärvertreter sagen, ein Ersatz wäre ein gewaltiges Vorhaben, für das es keine offensichtliche Alternative mit vergleichbaren Fähigkeiten gibt.
Doch Anthropic hat eine rote Linie gezogen … genau genommen sogar zwei.
Das Unternehmen ist bereit, die meisten seiner Nutzungsbeschränkungen für militärische Anwendungen zu lockern, verlangt aber Garantien dafür, dass Claude nicht für zwei bestimmte Zwecke eingesetzt wird: die Massenüberwachung von US-Amerikanern und die Entwicklung autonomer Waffen, die ohne menschliches Zutun feuern können.
Das Pentagon sieht die Sache anders. Vertreter des Verteidigungsministeriums sagen, die Verhandlungen hätten keinerlei Fortschritte gemacht und stünden kurz vor dem Scheitern. Das Ministerium will, dass alle KI-Labore ihre Modelle für „alle rechtmäßigen Anwendungen“ zur Verfügung stellen, ohne einzelne Einsatzbereiche mit den Unternehmen abstimmen zu müssen.
In einer Rede im Januar bei SpaceX äußerte Hegseth seine Frustration über restriktive KI und erklärte, er wende sich von Modellen ab, „mit denen man keine Kriege führen kann“. Seine Vision für das Ministerium umfasse zudem Systeme, die „ohne ideologische Einschränkungen funktionieren, die rechtmäßige militärische Anwendungen begrenzen“, bevor er abschließend erklärte, die „KI des Pentagons wird nicht woke sein“.
Im selben Monat kündigte Hegseth an, dass Musk’s xAI seinen Chatbot Grok in das Pentagon-Netzwerk bringen werde, ein Schritt, der wenige Tage erfolgte, nachdem Grok weltweit in die Kritik geraten war , weil der Chatbot ohne Einwilligung sexualisierte Deepfake-Bilder erzeugt hatte. Anfang Februar kündigte OpenAI an, sich ebenfalls der sicheren KI-Plattform des Militärs anzuschließen, sodass Angehörige der Streitkräfte eine angepasste Version von ChatGPT für nicht klassifizierte Aufgaben nutzen können.
Das Ultimatum
Die Spannungen verschärften sich nach dem Überfall im Januar, bei dem der venezolanische Präsident Nicolás Maduro gefangen genommen wurde und bei dem Berichten zufolge Claude zum Einsatz kam. Der Vorfall machte die Kluft zwischen den operativen Erfordernissen des Militärs und den ethischen Grenzen des Unternehmens deutlich.
Sollte das Treffen am Dienstag keinen Durchbruch bringen, könnten die Folgen massiv sein. Das Pentagon hat damit gedroht, Anthropic als „Risiko für die Lieferkette“ einzustufen. Ein solcher Schritt würde nicht nur Anthropics Vertrag über 200 Millionen US-Dollar für nichtig erklären, sondern könnte auch andere Rüstungsunternehmen daran hindern, Claude bei ihrer eigenen Arbeit für die Regierung einzusetzen.
Eine Geschichte voller Spannungen
Es ist nicht das erste Mal, dass Anthropic mit der Trump-Regierung aneinandergerät.
Das Unternehmen kritisierte öffentlich die Vorschläge der Regierung, die Exportkontrollen für KI-Chips nach China zu lockern, und legte sich damit zugleich mit Nvidia an. Damals warf Trumps führender KI-Berater David Sacks Anthropic vor, als Reaktion auf Äußerungen des Mitgründers Jack Clark über ein Gleichgewicht zwischen Optimismus und „angemessener Angst“ angesichts der Fortschritte bei der KI „eine ausgeklügelte Strategie zur regulatorischen Vereinnahmung auf Grundlage von Angstmacherei“ zu verfolgen.
Das Treffen könnte darüber entscheiden, ob Claude in den sensibelsten Systemen des Pentagons verbleibt oder ob das Militär seine Drohungen wahr macht und den schmerzhaften Prozess einleitet, Anthropic aus diesen Systemen zu verdrängen.
Trotz des drohenden Ultimatums schlägt Anthropic öffentlich weiterhin einen diplomatischen Ton an. Ein Unternehmenssprecher sagte gegenüber Axios: „Wir führen konstruktive Gespräche in gutem Glauben“ und fügte hinzu, das Unternehmen „setze sich dafür ein, modernste KI zur Unterstützung der nationalen Sicherheit der USA einzusetzen“.
Lesen Sie auch: Die Einführung von OpenAIs ChatGPT auf GenAI.mil zielt darauf ab, den sicheren Zugang zu nicht klassifizierter KI für rund 3 Millionen militärische und zivile Beschäftigte auszuweiten.