Washington wird möglicherweise nervös angesichts dessen, was das nächste Frontier-KI-Modell leisten kann, bevor die Öffentlichkeit es überhaupt zu sehen bekommt.
Die Regierung von Präsident Donald Trump erwägt laut The New York Times staatliche Prüfungen fortschrittlicher KI-Systeme vor ihrer Veröffentlichung. Der mögliche Prozess würde sich auf Modelle konzentrieren, deren Fähigkeiten Auswirkungen auf die Cybersicherheit, die nationale Sicherheit oder den militärischen Einsatz haben könnten, auch wenn er der Regierung möglicherweise nicht die Befugnis geben würde, eine Veröffentlichung zu verhindern.
Für eine Regierung, die weniger Einschränkungen für das Silicon Valley befürwortet hat, schafft diese Idee eine neue Bewährungsprobe: Wie lässt sich das KI-Rennen am Laufen halten, ohne dass die leistungsfähigsten Systeme zu einem Sicherheitsrisiko werden?
Warum ein noch nicht veröffentlichtes KI-Modell Alarm auslöste
Die Sorge verschärfte sich, nachdem Anthropic Mythos, ein Modell entwickelt hatte, das nach Angaben des Unternehmens besonders leistungsfähig darin war, Schwachstellen in Software zu identifizieren. Das KI-Unternehmen erklärte, das Modell könnte zu einer „Abrechnung“ in der Cybersicherheit führen, und lehnte eine öffentliche Veröffentlichung ab.
Diese Entscheidung machte aus einer politischen Debatte ein Veröffentlichungsproblem. Ein Modell, das Softwarefehler auf diesem Niveau aufspüren kann könnte in den falschen Händen zu einem mächtigen Werkzeug werden, wenn es ohne Schutzvorkehrungen oder Einblick der Regierung veröffentlicht würde.
Bundesbehörden betrachten auch die Chancen. KI-Modelle wie Mythos könnten für das Pentagon und US-Geheimdienste von Nutzen sein, insbesondere wenn sie dabei helfen können, Schwachstellen in Regierungssystemen zu erkennen, bevor Gegner sie ausnutzen.
Was eine KI-Prüfung vor der Veröffentlichung umfassen könnte
Eine der diskutierten Varianten würde Bundesbehörden Zugang zu neuen KI-Systemen geben, bevor diese öffentlich verfügbar sind. Von den Gesprächen unterrichtete Personen erklärten, der Prüfprozess würde der Regierung nicht zwangsläufig die Befugnis geben, eine Veröffentlichung zu blockieren. Ihre Rolle wäre damit auf eine frühe Prüfung statt einer endgültigen Genehmigung beschränkt.
Welche Behörden beteiligt sein sollen, ist noch offen. Vertreter haben über mögliche Rollen der National Security Agency, des White House Office of the National Cyber Director und des Director of National Intelligence gesprochen. Auch das Center for AI Standards and Innovation, ein unter Biden eingerichtetes Büro zur Bewertung freiwillig geteilter KI-Modelle, könnte nach seiner Ausgrenzung unter der Trump-Regierung wieder in den Prozess einbezogen werden.
Die Sicherheitsprobe für Trumps KI-Politik
Die Gespräche würden eine KI-Agenda auf die Probe stellen, die auf Schnelligkeit, Wettbewerb und weniger staatlichen Einschränkungen beruht. Seit seiner Rückkehr ins Amt behandelt Trump die KI-Entwicklung als zentral für das Rennen mit China und hat sich schnell daran gemacht, die Anforderungen aus der Biden-Zeit zurückzunehmen, die Entwickler dazu verpflichteten, Sicherheitsprüfungen durchzuführen und über Modelle mit potenziellen militärischen Einsatzmöglichkeiten zu berichten.
Der mögliche Prüfplan steht im Widerspruch zu dieser bisherigen Linie. Nachdem die Regierung vor Regeln gewarnt hatte, die die KI-Entwicklung verlangsamen könnten, erwägt sie nun eine staatliche Kontrollstufe für ihre leistungsfähigsten Systeme.
Technologieunternehmen uneins über KI-Aufsicht und China
Das Silicon Valley hat seinerseits eine Warnung an Washington. Geht man zu weit, könnte die USA sich im Wettbewerb mit China selbst ausbremsen.
Auch die Führungskräfte sind uneins darüber, wie staatliche Regeln für einen Prüfprozess aussehen sollten, der der Regierung einen frühen Einblick geben könnte, ohne ihr die endgültige Entscheidungsbefugnis über eine Veröffentlichung zu übertragen.
„Die Technologie entwickelt sich extrem schnell, und es gibt nur wenige formelle Verfahren, aber sie wollen auch nicht überregulieren“, sagte Dean Ball, ein ehemaliger KI-Berater der Trump-Regierung, der Times.
Die ungeklärte Frage lautet, ob Washington einen Prüfprozess entwickeln kann, der gefährliche Fähigkeiten frühzeitig erkennt, ohne jede größere KI-Veröffentlichung in einen Streit um eine staatliche Genehmigung zu verwandeln. Bislang deuten die Gespräche darauf hin, dass selbst eine auf Schnelligkeit ausgerichtete KI-Politik Sicherheitsprüfungen berücksichtigen muss, sobald die Modelle leistungsfähig genug werden.
Ein chinesisches Gericht hat klargestellt, dass das Ersetzen von Arbeitskräften durch KI rechtlich möglicherweise nicht so einfach ist, wie Unternehmen hoffen.