Hugging Face wartet nicht stillschweigend auf OpenAIs Untersuchungsbericht.
CEO Clément Delangue will, dass der ChatGPT-Hersteller die Protokolle der „‚außer Kontrolle geratenen‘ Agenten“ veröffentlicht, die in die Systeme seines Unternehmens eingedrungen sind, und Rechenleistung im Wert von 100 Millionen US-Dollar für die Cyberabwehr bereitstellt. Seine Forderung veröffentlichte er auf X, während OpenAI einen technischen Bericht zu dem Vorfall vorbereitet.
Das KI-Unternehmen steht nun unter Druck offenzulegen, wie viel der Aktivitäten der Agenten es öffentlich machen will.
Ein Aufruf zu „radikaler Transparenz“
OpenAIs technischer Bericht kann erklären, was das Unternehmen nach eigener Einschätzung geschehen ist. Agentenprotokolle würden einen direkteren Einblick darin geben, wie die KI-Modelle ihren Auftrag interpretierten, ihre Taktik änderten und weitermachten, nachdem sie die Grenzen einer internen Evaluierung verlassen hatten.
Forscher könnten anhand von Prompt-Verläufen und Tool-Aktivitäten die Abfolge rekonstruieren, ohne sich vollständig auf eine vom Unternehmen verfasste Darstellung verlassen zu müssen. Diese Aufzeichnungen könnten auch Warnsignale oder Momente aufzeigen, in denen Betreiber hätten eingreifen können.
Delangue forderte „radikale Transparenz“ und bezeichnete die Systeme als „‚außer Kontrolle geratene‘ Agenten.“ Laut OpenAI konzentrierten sich die Modelle weiterhin darauf, einen Cyber-Benchmark zu absolvieren, doch ihre Aktionen erreichten schließlich die Infrastruktur eines anderen Unternehmens.
Eine Veröffentlichung für die Öffentlichkeit würde dennoch Sorgfalt erfordern. Zugangsdaten und Details zu ausnutzbaren Schwachstellen müssten möglicherweise entfernt werden, doch Forscher bräuchten weder aktuelle Passwörter noch sofort einsetzbare Angriffsanleitungen, um das Verhalten der Agenten zu untersuchen.
OpenAI bietet Bericht an, während Hugging Face 100 Millionen US-Dollar fordert
In seiner Antwort erklärte OpenAI, dass externe Berater an einer vom Safety and Security Committee beaufsichtigten Untersuchung beteiligt seien und ein technischer Bericht „in den kommenden Wochen“ erwartet werde. Das Unternehmen hat öffentlich weder zugestimmt, die Agentenprotokolle zu veröffentlichen, noch die geforderten Millionen für Rechenleistung bereitzustellen.
Delangue erklärte, die Finanzierung solle die Cyberabwehr in der gesamten Hugging-Face-Community unterstützen. OpenAI hat bereits erklärt, Hugging Face zu helfen und sich an einer forensischen Untersuchung zu beteiligen. Der Vorschlag des CEOs würde jedoch eine konkrete öffentliche Zusage für die Verteidigungsarbeit der Community hinzufügen.
Betroffene Plattformen brauchen schnellere Antworten und Kostenerstattung
Wenn ein externer KI-Agent in eine Plattform eindringt, sieht das Ziel nur die Aktivitäten, die auf den eigenen Systemen erfasst wurden. Der Betreiber verfügt über die vollständigere Aufzeichnung, daher muss die vertrauliche Zusammenarbeit beginnen, bevor ein öffentlicher Untersuchungsbericht erscheint. Sicherheitsverantwortliche benötigen genügend Details, um zu bestätigen, worauf zugegriffen wurde, und andernorts nach damit verbundenen Aktivitäten zu suchen.
Ohne diese Informationen könnten Verteidiger gezwungen sein, auf Grundlage unvollständiger Beweise zu handeln. Sie müssen möglicherweise Zugangsdaten austauschen oder Systeme neu aufbauen, bevor das KI-Unternehmen den vollständigen Bericht vorlegt, während Benachrichtigungen der Kunden weiterhin ungeklärt sind. Betroffene Unternehmen sollten den daraus entstehenden Arbeitsaufwand und die Kosten für externe Reaktionen von Beginn an dokumentieren und jede Betriebsunterbrechung separat erfassen.
Delangues Vorschlag versieht ein ungelöstes Problem mit einem Preis. Wer sollte zahlen, wenn das Experiment eines anderen Unternehmens Arbeit und Risiken für eine Organisation verursacht, die seiner Teilnahme nie zugestimmt hat?
Für Plattformbetreiber wird der Präzedenzfall durch die Reaktion bestimmt, die die Betroffenen erhalten. Schnelle technische Hilfe und ein gangbarer Weg zur Kostenerstattung könnten nach künftigen von KI verursachten Vorfällen.
Lesen Sie auch: Ein Stromgeschäft über 3,2 GW in Georgia stellt OpenAIs Rechenzentrumspläne auf eine deutlich breitere Grundlage.