Googles angespannter Waffenstillstand mit dem Pentagon lässt sich immer schwerer aufrechterhalten.
Der Technologiekonzern hat einen Vertrag unterzeichnet, der dem US-Verteidigungsministerium Zugriff auf seine Gemini-KI-Modelle für geheime militärische Aufgaben gewährt, wie mehrere Quellen am Dienstag bestätigten. Die Vereinbarung, über die zuerst The Information berichtete, erlaubt dem Pentagon, Googles KI für „jeden rechtmäßigen staatlichen Zweck“ einzusetzen – eine Formulierung, die im zunehmend angespannten Verhältnis des Silicon Valley zu Washington zum Zankapfel geworden ist.
Der geheime Zugriff ist eine Ergänzung zu einem 200-Millionen-US-Dollar-Vertrag, den Google bereits mit dem Pentagon unterzeichnet hatte und unter dem Gemini auf nicht klassifizierten Regierungssystemen eingesetzt wurde, unter anderem über die GenAI.mil-Plattform des Pentagons. Die neue Ebene weitet diesen Zugriff auf geheime Netzwerke aus, die für sensible Einsätze genutzt werden, darunter Missionsplanung und die Auswahl von Waffenzielen.
„Wir sind stolz darauf, Teil eines breit aufgestellten Konsortiums führender KI-Labore sowie Technologie- und Cloud-Unternehmen zu sein, die KI-Dienste und -Infrastruktur zur Unterstützung der nationalen Sicherheit bereitstellen“, sagte Sprecherin Jenn Crider in einer Erklärung. „Wir bekennen uns weiterhin zum Konsens im privaten und öffentlichen Sektor, dass KI nicht ohne angemessene menschliche Aufsicht für die inländische Massenüberwachung oder autonome Waffen eingesetzt werden sollte.“
Cameron Stanley, der KI-Chef des Pentagons, bestätigte gegenüber CNBC die erweiterte Nutzung von Gemini und stellte sie als praktische Maßnahme dar. „Es gibt viele verschiedene Dinge, durch die wöchentlich Tausende Arbeitsstunden eingespart werden, buchstäblich Tausende Arbeitsstunden“, sagte er.
Stanley stellte außerdem klar, dass es nicht darum gehe, sich auf einen einzigen Anbieter festzulegen. „Eine übermäßige Abhängigkeit von einem Anbieter ist nie eine gute Sache“, sagte er gegenüber CNBC. „Das beobachten wir besonders bei Software.“
Für Google ist der Deal ein weiterer Schritt in den lukrativen Markt für militärische KI. Für Kritiker innerhalb und außerhalb des Unternehmens wirft er dieselbe Frage erneut auf, die den Aufstand gegen Project Maven befeuert hat: Wo endet die „rechtmäßige staatliche Nutzung“, und wo beginnen die ethischen Grenzen des Silicon Valley?
Das Kleingedruckte und die Lücken
Die Formulierungen des Deals sind sorgfältig gewählt, neigen sich aber auffällig stark der Position der Regierung zu.
Laut der Berichterstattung von The Information, heißt es im Vertrag: „Die Parteien sind sich einig, dass das KI-System nicht für die inländische Massenüberwachung oder autonome Waffen (einschließlich der Zielauswahl) ohne angemessene menschliche Aufsicht und Kontrolle vorgesehen ist und nicht dafür eingesetzt werden sollte.“
Dasselbe Dokument stellt jedoch klar, dass Google kein Recht besitzt, „rechtmäßige operative Entscheidungen der Regierung zu kontrollieren oder ein Veto gegen sie einzulegen“ – eine Unterscheidung, die diese Schutzvorkehrungen nach Ansicht von Kritikern weitgehend zu Symbolen degradiert.
Der Vereinbarung zufolge muss Google offenbar auf Wunsch der Regierung außerdem dabei helfen, seine Einstellungen zur KI-Sicherheit und seine Filter anzupassen, berichtet The Information. Diese Klausel dürfte bei Bürgerrechtsorganisationen und Googles eigener Belegschaft für weitere Kritik sorgen.
Aufstand in den eigenen Reihen
Google hat die Vereinbarung verteidigt, doch einige Beschäftigte meinen, das Unternehmen dringe zu schnell in geheime militärische Aufgaben vor. Mehr als 600 Beschäftigte aus Googles KI- und Cloud-Sparten, darunter viele aus dem renommierten DeepMind-Labor, unterzeichneten einen Brief an CEO Sundar Pichai, in dem sie ihn aufforderten, den Deal zu stoppen.
Die Beschäftigten äußerten große Sorge, dass das Unternehmen die Möglichkeit verlieren werde, zu überwachen, wie die KI tatsächlich eingesetzt wird, sobald sie in eine geheime Umgebung gelangt. In dem von The Washington Post veröffentlichtenBrief schrieben die Beschäftigten: „Wir wollen sehen, dass KI der Menschheit zugutekommt – nicht, dass sie auf unmenschliche oder extrem schädliche Weise eingesetzt wird.“
Sie warnten, eine „falsche Entscheidung“ könne Googles Ruf „irreparablen Schaden“ zufügen. Diese interne Spannung erinnert an 2018, als Google sich nach einem ähnlichen Aufstand der Belegschaft gezwungen sah, aus einem Projekt namens „Project Maven“ auszusteigen.
Die Vereinbarung fällt inmitten eines umfassenderen Streits zwischen dem Pentagon und dem KI-Startup Anthropic, das nach seiner Weigerung, die Schutzvorkehrungen für Überwachung und autonome Waffen zu lockern, von Aufträgen des Verteidigungsministeriums ausgeschlossen wurde. Diese Pattsituation ist vor Gericht gelandet, was die wachsende Kluft zwischen den Forderungen der Regierung und den Versuchen der Technologieunternehmen unterstreicht, ethische Grenzen zu setzen.
Gleichzeitig bemüht sich das Pentagon um Milliarden an Finanzmitteln zur Ausweitung KI-gestützter Systeme und signalisiert damit, dass KI in der Militärstrategie eine zunehmend zentrale Rolle spielen wird.