L’armée chinoise aurait utilisé les IA d’OpenAI et d’Anthropic pour entraîner des systèmes de défense

L’armée chinoise a trouvé une astuce pour contourner les embargos de Washington sur le matériel en empruntant les capacités des meilleurs systèmes américains d’intelligence artificielle afin de développer ses propres technologies de champ de bataille.

L’examen par Reuters de plus de 80 articles universitaires chinois et dépôts de brevets, s’appuyant en partie sur des documents compilés par la Jamestown Foundation, basée à Washington, montre que des institutions liées à l’Armée populaire de libération (APL) ont utilisé les résultats de modèles de pointe développés par OpenAI et Anthropic pour entraîner des systèmes de défense spécialisés et nationaux.

L’astuce de la distillation

Pour y parvenir, les chercheurs s’appuient sur une technique appelée "distillation de modèle". Au lieu de dépenser des milliards de dollars et de mobiliser une puissance de calcul colossale pour construire des modèles d’IA de pointe à partir de zéro, les scientifiques soumettent des requêtes à de puissants modèles occidentaux et utilisent leurs résultats comme données d’entraînement synthétiques pour des modèles « élèves » plus légers et localisés.

« Enseigner la bonne réponse à un modèle est une chose, mais lui enseigner le raisonnement qui la sous-tend est bien plus difficile », a déclaré Sunny Cheung, chercheur à la Jamestown Foundation, selon Reuters. 

« Ces articles montrent que des chercheurs liés à l’armée chinoise tentent de transférer ce raisonnement coûteux et propriétaire des modèles occidentaux vers des systèmes plus petits qu’ils peuvent contrôler et déployer localement. »

Les applications détaillées dans les documents couvrent plusieurs fronts de la défense :

• Matériel de champ de bataille : Un article publié en 2024 par la National University of Defense Technology de l’APL explique comment réduire la taille d’un modèle de traitement d’image afin que des véhicules aériens sans pilote puissent analyser des vidéos en direct et prendre des décisions de navigation en temps réel, même lors de coupures des communications.
• Guerre navale : Des chercheurs de la Chinese Academy of Military Sciences ont utilisé la distillation pour faire fonctionner des modèles de reconnaissance de cibles sur du matériel tactique lors d’opérations maritimes simulées impliquant des navires, des drones et des sous-marins sans pilote.
• Opérations cyber sécurisées : Des chercheurs de l’unité 96941 de l’APL — une unité de cyberguerre basée à Pékin — ont utilisé le GPT-3.5 d’OpenAI pour résumer du code source militaire, puis ont entraîné un modèle local capable de fonctionner au sein de réseaux militaires classifiés.
• Surveillance sociale : À la North University of China, des chercheurs ont soumis des invites à Anthropic’s Claude 3 Haiku pour générer des données synthétiques destinées à la classification de textes et à la surveillance des contenus.

Jeu de dupes high-tech

Cette tendance révèle une réalité stratégique à laquelle les contrôles sur les exportations de semi-conducteurs ne peuvent répondre pleinement. Si Washington peut restreindre l’accès aux GPU haut de gamme, limiter l’accès aux résultats d’API accessibles au public ou aux réponses de modèles ayant fuité reste quasiment impossible.

Cette dynamique transforme les tensions technologiques modernes en un jeu asymétrique de rétro-ingénierie. Les laboratoires occidentaux assument les coûts astronomiques du développement de modèles de pointe, tandis que les armées rivales en extraient des étapes de raisonnement ciblées pour déployer directement des systèmes d’IA opérationnels en périphérie sur des satellites, des drones et des radios de terrain.

Les systèmes distillés présentent toutefois des contreparties évidentes. Les modèles distillés restent plus étroits, sont dépourvus d’une intelligence généralisée et peuvent perdre les garde-fous de sécurité intégrés aux modèles parents.

Retombées industrielles et géopolitiques

Ces conclusions placent les développeurs occidentaux d’IA et les responsables de la sécurité dans une situation délicate. Anthropic a indiqué ne pas vendre d’accès commercial en Chine et utiliser une surveillance active pour détecter les violations de ses politiques, avertissant que les copies distillées suppriment des mécanismes de sécurité essentiels. 

De leur côté, les responsables américains affirment que cette extraction non autorisée porte atteinte aux droits de propriété intellectuelle et aux contrôles à l’exportation, tandis que Pékin balaie ces critiques en les qualifiant d’« hégémonisme de l’IA ».