Anthropic affirme que Claude a été ciblé par des campagnes de distillation.
Et l'entreprise cite DeepSeek, Moonshot et MiniMax.
Dans une nouvelle publication, Anthropic a déclaré avoir détecté une activité de distillation « à l'échelle industrielle » visant à extraire les capacités de Claude. L'entreprise a indiqué que les campagnes s'appuyaient sur environ 24 000 comptes frauduleux et avaient généré plus de 16 millions d'échanges avec Claude, ce qui, selon elle, constituait une violation de ses conditions d'utilisation et des restrictions d'accès régionales.
Ce qu'Anthropic reproche, et ce que signifie la « distillation »
La distillation est une technique d'IA courante selon laquelle un modèle apprend à partir des résultats d'un autre modèle, souvent pour produire un système plus petit ou moins coûteux qui se comporte davantage comme un modèle plus puissant. Anthropic affirme que la distillation a été réalisée sans autorisation, à grande échelle, afin de reproduire le comportement de Claude.
The Verge a décrit l'approche présumée comme consistant à envoyer un grand nombre de requêtes à Claude, à recueillir ses réponses, puis à utiliser ces résultats pour améliorer d'autres modèles.
La publication d'Anthropic fournit également des volumes d'activité propres à chaque laboratoire ainsi que les domaines ciblés. Elle indique que DeepSeek a généré plus de 150 000 échanges, Moonshot plus de 3,4 millions d'échanges et MiniMax plus de 13 millions d'échanges. Anthropic affirme que les requêtes ciblaient des domaines tels que le raisonnement et les tâches de type évaluation, le raisonnement agentique et l'utilisation d'outils, ainsi que le codage et l'orchestration agentiques. L'entreprise dit également avoir observé de rapides changements d'activité après la sortie de nouveaux modèles.
Ce qui va changer pour les fournisseurs d'IA et leurs clients
Anthropic a déclaré investir dans de meilleurs systèmes de détection et d'empreintes comportementales, renforcer la vérification des voies fréquemment détournées à des fins de fraude, partager des indicateurs avec d'autres laboratoires d'IA et fournisseurs cloud, et développer des contre-mesures au niveau des produits, des API et des modèles afin de rendre les résultats moins utiles à une distillation illicite.
Pour les clients, les changements à court terme seront probablement très concrets. Les fournisseurs pourraient surveiller plus attentivement les schémas d'utilisation anormaux, l'automatisation à grande échelle et l'activité de revendeurs qui ressemble à de l'extraction. Cela pourrait se traduire par davantage de contraintes pour les accès à gros volume et par une application plus stricte des règles lorsque l'utilisation semble coordonnée plutôt que naturelle.
Plus largement, les fournisseurs de modèles considèrent de plus en plus l'extraction comme une menace récurrente et reproductible, plutôt que comme un différend isolé, tandis que la gouvernance de la sécurité devient un aspect plus visible de la manière dont les laboratoires défendent leur approche. Attaques d'extraction du modèle Gemini et la récente attention portée à Anthropic illustrent cette évolution. DeepSeek, de son côté, a subi des pressions opérationnelles distinctes, notamment des retards liés aux puces.
À lire également : La Constitution de Claude expose le « plan directeur éthique de 80 pages » d'Anthropic sur la manière dont Claude doit concilier honnêteté, compassion, sécurité et supervision — exactement le type de comportement que les opérations de distillation pourraient mettre en danger.