Le compte Instagram de la No Kings Coalition a disparu pendant des événements politiques organisés à l’échelle nationale, suscitant des accusations de censure de la part de Meta envers le groupe.
Meta a reconnu avoir suspendu le compte par erreur le 17 octobre, avant de relier l’alerte de sécurité à une activité de navigation automatisée impliquant Claude, d’Anthropic. L’entreprise s’est excusée tandis que les organisateurs et les élus s’interrogeaient sur le calendrier.
L’incident soulève un problème plus vaste pour les plateformes sociales : comment distinguer une navigation légitime propulsée par l’IA d’une activité automatisée suspecte sans restreindre les comptes dont les utilisateurs dépendent pour communiquer.
Les ingénieurs ont identifié un autre déclencheur
Une première explication attribuait la suspension à une fréquence inhabituelle de publications, de partages ou de commentaires. Andy Stone, responsable de la communication, a expliqué qu’un tel comportement pouvait déclencher une mesure de modération automatisée.
Dimanche, les ingénieurs ont établi que le trafic inhabituel provenait d’un outil Claude qui consultait des profils, des publications et des hashtags par rafales, à environ quatre fois son volume habituel. Dans une publication du 18 octobre sur X, Stone a expliqué que la vitesse et la fréquence de ces requêtes ressemblaient à celles d’un bot.
Contrairement à une personne qui publie des mises à jour, les agents d’IA qui parcourent des sites webpeuvent récupérer des informations à répétition sans créer de nouvelles publications. Une vérification automatisée distincte a établi environ une heure plus tard que le compte de la coalition n’aurait pas dû être suspendu.
Les organisateurs ont subi un blocage plus long pendant des événements organisés à l’échelle nationale
No Kings a fait état de près de 3 000 événements dans les 50 États américains et à Washington, D.C., tandis que les organisateurs encourageaient le vote anticipé avant les élections de mi-mandat du 3 novembre. Instagram faisait partie des canaux utilisés pour toucher les sympathisants.
L’accès public a été rétabli après environ 90 minutes, mais les administrateurs sont restés privés d’accès plus longtemps. Le contrôle complet a été restauré à 17 h 33, heure de l’Est, soit environ quatre heures après la suspension.
Dans une déclaration suivant la suspension, la coalition a critiqué le calendrier et exigé des explications. « Restreindre les communications sur le vote au beau milieu d’une élection est inacceptable », ont écrit les organisateurs. Ils ont également demandé à Meta de prévenir d’autres incidents similaires alors que l’entreprise continue de développer son service d’assistance des comptes avec l’IAdestiné à améliorer les recours et la récupération des comptes.
Ce qu’a découvert eWeek : les erreurs de modération automatisée de Meta ont une longue histoire
La suspension de No Kings n’est pas la première fois que les systèmes de modération de Meta restreignent des contenus ou des comptes légitimes. L’examen par eWeek de précédentes affaires de modération sur Facebook a révélé que des suppressions erronées se sont poursuivies même après que les systèmes de Meta eurent détecté des signes d’erreur.
- Caricature de policiers colombiens de 2022. Une enquête indépendante du Conseil de supervisiona établi qu’une caricature dénonçant les violences policières avait été ajoutée par erreur à une base de données automatisée de suppression d’images. Sur 215 suppressions contestées, 210 ont été annulées. Une alerte interne est parvenue aux ingénieurs, mais l’image est restée dans la base pendant environ un mois, jusqu’à l’intervention du Conseil.
- Suspensions de groupes Facebook en 2025. Des utilisateurs ont signalé des restrictions touchant des milliers de communautés, notamment des groupes consacrés à la photographie animalière et aux jeux vidéo. Meta a reconnu une erreur techniqueaffectant certains groupes Facebook et a commencé à travailler sur un correctif. Les administrateurs soupçonnaient une modération défaillante fondée sur l’IA, mais l’entreprise n’a pas confirmé l’implication de l’IA.
Ces affaires mettent en évidence différentes faiblesses de la modération automatisée. Dans le cas de la caricature colombienne, une entrée incorrecte dans une base de données de suppression a continué d’affecter les contenus malgré l’annulation des décisions contestées. L’incident touchant les groupes Facebook a montré comment une erreur technique pouvait perturber l’accès de communautés sans aucun lien entre elles.
La suspension de No Kings ajoute une autre difficulté : l’explication fournie aux propriétaires des comptes peut ne pas correspondre à ce qui a réellement déclenché une mesure de modération.
Meta a d’abord invoqué un nombre excessif de publications ou une autre activité du compte, avant que les ingénieurs ne relient l’alerte à la navigation associée à Claude. Si les organisateurs avaient réduit leurs mises à jour ou supprimé des contenus légitimes, ces changements n’auraient pas remédié à l’activité identifiée plus tard par Meta.
Cette distinction est importante, car les organisations dépendent souvent des notifications des plateformes pour comprendre ce qui n’a pas fonctionné et éviter une nouvelle suspension. Lorsque ces notifications sont inexactes, les utilisateurs peuvent se retrouver à chercher la cause d’un comportement qui n’était jamais responsable de la restriction.
Avant de modifier leur façon de publier, les organisations confrontées à des restrictions devraient conserver les notifications de violation et comparer l’activité signalée avec les relevés de leur propre compte. Les équipes qui déploient des outils d’IA fondés sur un navigateurdevraient également tenir des journaux distincts des requêtes automatisées afin de déterminer si leurs propres agents ont contribué au trafic suspect.
Les opérateurs des plateformes devraient corriger les notifications de violation inexactes dans le cadre de la procédure de recours et rétablir l’intégralité de l’accès administratif, afin d’éviter que les propriétaires des comptes n’agissent sur la base d’accusations depuis retirées.
Plus d’actualités sur l’IA : la promesse d’Anthropic de céder 5 % de son capitalpourrait transformer sa valorisation en un financement substantiel pour des initiatives caritatives et sociales.