Anthropic sagt, dass Claude Ziel von Destillationskampagnen war.
Und nennt DeepSeek, Moonshot und MiniMax.
In einem neuen Beitrag Anthropic sagte das Unternehmen, es habe „industriell skalierte“ Destillationsaktivitäten entdeckt, die darauf abzielten, Claudes Fähigkeiten zu extrahieren. Das Unternehmen erklärte, die Kampagnen hätten etwa 24.000 betrügerische Konten genutzt und mehr als 16 Millionen Interaktionen mit Claude erzeugt. Dies habe gegen die Nutzungsbedingungen und regionalen Zugangsbeschränkungen verstoßen.
Was Anthropic vorwirft und was „Destillation“ bedeutet
Destillation ist eine gängige KI-Technik, bei der ein Modell aus den Ausgaben eines anderen Modells lernt – häufig, um ein kleineres oder kostengünstigeres System zu entwickeln, das sich stärker wie ein leistungsfähigeres Modell verhält. Anthropic zufolge erfolgte die Destillation ohne Genehmigung und in großem Maßstab, um Claudes Verhalten nachzubilden.
The Verge beschrieb den mutmaßlichen Ansatz als umfangreiches Prompting von Claude, das Sammeln der Antworten und die Nutzung dieser Ausgaben zur Verbesserung anderer Modelle.
Anthropics Beitrag enthält außerdem nach Labor aufgeschlüsselte Aktivitätszahlen und Zielbereiche. Demnach erzeugte DeepSeek mehr als 150.000 Interaktionen, Moonshot mehr als 3,4 Millionen und MiniMax mehr als 13 Millionen. Anthropic erklärte, das Prompting habe auf Bereiche wie Schlussfolgern und aufgabenartige Evaluierungen, agentenbasiertes Schlussfolgern und die Nutzung von Tools sowie agentenbasiertes Programmieren und Orchestrierung abgezielt. Außerdem habe das Unternehmen nach der Veröffentlichung neuer Modelle rasche Verschiebungen bei den Aktivitäten beobachtet.
Was sich als Nächstes für KI-Anbieter und Kunden ändert
Anthropic erklärte, in eine bessere Erkennung und verhaltensbasierte Fingerabdrücke zu investieren, die Verifizierung bei häufig für Betrug missbrauchten Zugangswegen zu verschärfen, Indikatoren mit anderen KI-Laboren und Cloud-Anbietern zu teilen und Gegenmaßnahmen auf Produkt-, API- und Modellebene zu entwickeln, die Ausgaben für illegale Destillation weniger nützlich machen sollen.
Für Kunden dürften die kurzfristigen Änderungen vor allem praktischer Natur sein. Anbieter könnten stärker auf ungewöhnliche Nutzungsmuster, umfangreiche Automatisierung und Aktivitäten von Wiederverkäufern achten, die nach Extraktion aussehen. Das kann bei Zugriffen mit hohem Volumen für mehr Reibung sorgen und zu einer strengeren Durchsetzung führen, wenn die Nutzung koordiniert statt organisch wirkt.
Grundsätzlich betrachten Modellanbieter Extraktion zunehmend als wiederkehrendes Bedrohungsmuster und nicht als einmaligen Streitfall. Gleichzeitig wird Sicherheits-Governance zu einem sichtbareren Bestandteil der Art und Weise, wie Labore ihren Ansatz verteidigen. Angriffe zur Extraktion von Gemini-Modellen und die jüngste Aufmerksamkeit für Anthropic spiegeln diesen Wandel wider. DeepSeek war unterdessen mit separatem operativem Druck konfrontiert, darunter Verzögerungen im Zusammenhang mit Chips.
Außerdem lesenswert: Claudes Constitution legt in einem „80-seitigen ethischen Bauplan“ dar, wie Claude Ehrlichkeit, Mitgefühl, Sicherheit und Aufsicht miteinander in Einklang bringen soll – genau die Art von Verhalten, die durch Auseinandersetzungen um Destillation gefährdet werden könnte.