Un boîtier Android TV est censé diffuser vos émissions préférées, pas exécuter un modèle d’IA. Pourtant, Anthropic a réussi à en faire fonctionner un sur 15 boîtiers bon marché et avertit désormais que des appareils du quotidien, comme les fours connectés, pourraient à terme aider l’IA à se copier d’un appareil à l’autre.
Dans une étude publiée le 12 octobre, Anthropic s’est intéressé à la possibilité pour des agents d’IA d’exécuter des modèles sur du matériel inconnu et de coordonner leur réplication au sein d’un réseau contrôlé aux accès simplifiés. Ses expériences montrent des progrès, mais aucune n’a démontré la propagation d’un ver d’IA malveillant sur des réseaux réels. Pour les entreprises équipées de caméras de sécurité, d’écrans en salle de réunion et d’autres équipements connectés, cet avertissement soulève des questions sur des appareils qui font rarement l’objet du même niveau d’examen que les ordinateurs et les serveurs.
Anthropic teste la réplication de l’IA sur du matériel bon marché
Le processus de réplication proposé consiste à trouver des cibles, à y accéder, à exécuter un modèle, puis à recommencer le processus.
Dans les recherches d’Anthropic, le modèle Gemma4-26B-A4B de Google s’est exécuté sur 15 boîtiers Android TV coûtant environ 55 dollars chacun. Il n’a généré que 0,39 jeton par seconde et n’a pas démontré d’infection autonome.
Anthropic a également identifié les fours connectés comme des cibles potentielles. Pour les entreprises, les caméras de sécurité, les téléviseurs connectés et les équipements de salle de réunion sont d’autres appareils connectés à examiner, même si les chercheurs ne les ont pas testés pour vérifier une réplication autonome de l’IA.
Lors d’un autre essai, GLM-5.2 a déployé Llama3.1-8B sur les huit cibles Android virtuelles lors de quatre essais sur cinq. Les appareils exposaient des ports de débogage sans authentification, tandis que l’inférence de GLM-5.2 s’exécutait à l’extérieur.
Anthropic estime que de petits modèles pourraient atteindre le niveau de capacités de GLM-5.2 d’ici la fin de 2026, des réplicateurs pratiques pouvant leur succéder. Cette extrapolation repose sur les tendances générales des capacités, et non sur une évaluation directe de la réplication.
Ce qu’a découvert eWeek : exécuter une IA est plus facile que la répliquer
Anthropic a reconnu : « Nous n’avons pas encore de réplicateur malveillant complet. » La comparaison de ses tests révèle un écart : les modèles plus petits peuvent s’exécuter sur des appareils bon marché, mais n’ont pas démontré qu’ils pouvaient mener de façon fiable l’intégralité du cycle de réplication à son terme. Même le test de réplication réussi dépendait d’un accès plus facile que dans le monde réel et d’une inférence effectuée hors appareil.
Expérience | Résultat démontré | Limitation principale |
|---|---|---|
| 15 boîtiers Android TV | Le modèle 26B s’est exécuté sur des appareils bon marché | Aucune infection d’un appareil à l’autre n’a été testée |
| Banc d’essai Android virtuel | GLM-5.2 a atteint huit cibles lors de quatre essais sur cinq | Accès sans authentification ; l’agent s’exécutait à l’extérieur |
| Adaptation de Qwen3.5-9B | La configuration de l’inférence est passée de 45 % à 61 %–84 % | Aucune réplication complète démontrée |
Dans l’expérience avec Qwen3.5-9B, les chercheurs ont créé des instances successives de l’agent qui héritaient des notes des tentatives précédentes et amélioraient la configuration de l’inférence. Ces instances ont été redémarrées par les chercheurs au lieu de se reproduire de manière autonome. Mais une meilleure configuration ne suffit pas à établir l’existence d’un ver d’IA capable de se maintenir seul.Selon Quartz, Anthropic estime qu’un réplicateur basé sur l’IoT pourrait mettre plusieurs jours à doubler sa population, plutôt que de se propager rapidement.
Même un réplicateur lent pourrait laisser une activité réseau détectable. Les chercheurs ont identifié plusieurs signes avant-coureurs possibles, notamment le transfert de modèles de plusieurs gigaoctets, des communications inhabituelles d’un appareil à l’autre et des balayages répétés du réseau. Ces comportements donnent aux défenseurs des éléments concrets à surveiller, même si aucun ver d’IA incontrôlé n’a été démontré.
Ce que les entreprises doivent vérifier dès maintenant
Un réplicateur décentralisé pourrait être difficile à neutraliser, car il ne disposerait pas d’un point de contrôle unique, une inquiétude que CNBC a soulignée dans sa couverture. Les organisations peuvent prendre trois mesures concrètes :
- Inventoriez le matériel connecté. Identifiez les caméras de sécurité, les systèmes de salle de réunion et les appareils IoT non pris en charge, en particulier ceux dont les interfaces d’administration sont exposées.
- Limitez les déplacements. Segmentez les réseaux IoT, fermez les ports de débogage inutiles et limitez les accès d’un appareil à l’autre.
- Surveillez le comportement du réseau. Recherchez les balayages, les téléchargements inattendus de modèles et les connexions persistantes entre des appareils qui communiquent rarement.
Anthropic n’a pas démontré la propagation d’un ver d’IA sur des réseaux réels. Mais ses recherches mettent en lumière une faille de sécurité que les entreprises peuvent corriger dès aujourd’hui : des appareils connectés capables de télécharger des fichiers volumineux ou de communiquer avec d’autres systèmes sans que personne ne s’en aperçoive.
Que l’IA autoréplicative apparaisse dans quelques mois ou plus tard, les équipes de sécurité ont de bonnes raisons de s’assurer que ces appareils ne sont pas négligés.
Pour en savoir plus sur les préoccupations croissantes en matière de sécurité de l’IA, lisez pourquoi un ancien chercheur d’Anthropic a averti que la course au développement de modèles plus puissants pourrait prendre de vitesse les efforts visant à les garder sous contrôle.