Das Instagram-Konto der No Kings Coalition verschwand während landesweiter politischer Veranstaltungen, woraufhin Meta vorgeworfen wurde, die Gruppe zu zensieren.
Meta räumte ein, das Konto am 17. Oktober irrtümlich gesperrt zu haben, und brachte die Sicherheitswarnung später mit automatisierten Browsing-Aktivitäten im Zusammenhang mit Anthropics Claude in Verbindung. Das Unternehmen entschuldigte sich, während Organisatoren und Abgeordnete den Zeitpunkt hinterfragten.
Der Vorfall wirft ein grundlegenderes Problem für soziale Plattformen auf: Wie lässt sich legitimes KI-gestütztes Browsing von verdächtigen automatisierten Aktivitäten unterscheiden, ohne die Konten einzuschränken, auf die Menschen zur Kommunikation angewiesen sind?
Ingenieure ermittelten einen anderen Auslöser
Eine erste Erklärung führte die Sperrung auf ungewöhnlich häufiges Posten, Teilen oder Kommentieren zurück. Andy Stone, Kommunikationschef des Unternehmens, erklärte, dass ein solches Verhalten eine automatisierte Durchsetzung auslösen könne.
Bis Sonntag hatten Ingenieure den ungewöhnlichen Datenverkehr auf ein Claude-Tool zurückgeführt, das Profile, Beiträge und Hashtags in kurzen Schüben mit ungefähr dem Vierfachen seines normalen Volumens aufrief. In einem Beitrag vom 18. Oktober auf X, erklärte Stone, dass die Geschwindigkeit und Häufigkeit dieser Anfragen Bot-Aktivitäten ähnelten.
Anders als jemand, der Aktualisierungen veröffentlicht, können KI-Agenten, die Websites durchsuchen wiederholt Informationen abrufen, ohne neue Beiträge zu erstellen. Eine separate automatisierte Prüfung kam etwa eine Stunde später zu dem Ergebnis, dass das Konto der Koalition nicht hätte gesperrt werden dürfen.
Organisatoren waren während landesweiter Veranstaltungen länger ausgesperrt
No Kings meldete fast 3.000 Veranstaltungen in allen 50 Bundesstaaten und Washington, D.C., während die Organisatoren vor den Zwischenwahlen am 3. November zur vorzeitigen Stimmabgabe aufriefen. Instagram gehörte zu den Kanälen, über die Unterstützer erreicht wurden.
Der öffentliche Zugriff wurde nach ungefähr 90 Minuten wiederhergestellt, doch die Administratoren blieben länger ausgesperrt. Die vollständige Kontrolle wurde um 17:33 Uhr ET wiederhergestellt, etwa vier Stunden nach der Sperrung.
In einer Stellungnahme nach der Sperrung, kritisierte die Koalition den Zeitpunkt und forderte eine Erklärung. „Die Kommunikation über die Stimmabgabe mitten in einer Wahl einzuschränken, ist inakzeptabel“, schrieben die Organisatoren. Außerdem forderten sie Meta auf, ähnliche Vorfälle zu verhindern, während das Unternehmen weiterhin KI-gestützten Kontosupport ausbaut, der Einsprüche und die Wiederherstellung von Konten verbessern soll.
Was eWeek herausgefunden hat: Die Fehler bei Metas automatisierter Durchsetzung haben eine dokumentierte Geschichte
Die Sperrung von No Kings ist nicht das erste Mal, dass Metas Durchsetzungssysteme legitime Inhalte oder Konten eingeschränkt haben. Eine Untersuchung früherer Facebook-Durchsetzungsfälle durch eWeek ergab, dass irrtümliche Entfernungen fortbestanden, selbst nachdem Metas Systeme Anzeichen für einen Fehler erkannt hatten.
- Karikatur über die kolumbianische Polizei von 2022. Eine unabhängige Untersuchung des Oversight Board ergab, dass eine Karikatur, die Polizeigewalt kritisierte, irrtümlich in eine automatisierte Datenbank zur Bildentfernung aufgenommen worden war. Von 215 angefochtenen Entfernungen wurden 210 aufgehoben. Eine interne Warnung erreichte die Ingenieure, dennoch blieb das Bild etwa einen Monat lang in der Datenbank, bis das Board einschritt.
- Sperrungen von Facebook Groups im Jahr 2025. Nutzer meldeten Einschränkungen, die Tausende von Communities betrafen, darunter Gruppen für Vogelfotografie und Gaming. Meta räumte einen technischen Fehler ein, der einige Facebook Groups betraf, und begann mit der Arbeit an einer Lösung. Administratoren vermuteten eine fehlerhafte KI-Moderation, obwohl das Unternehmen eine Beteiligung von KI nicht bestätigte.
Die Fälle weisen auf unterschiedliche Schwächen bei der automatisierten Durchsetzung hin. Im Fall der kolumbianischen Karikatur wirkte sich ein falscher Eintrag in einer Entfernungsdatenbank trotz aufgehobener Einsprüche weiterhin auf Inhalte aus. Der Vorfall bei den Facebook Groups zeigte, wie ein technischer Fehler den Zugriff auf voneinander unabhängige Communities stören konnte.
Die Sperrung von No Kings bringt eine weitere Komplikation mit sich: Die Erklärung, die Kontoinhabern gegeben wird, spiegelt möglicherweise nicht den tatsächlichen Auslöser einer Durchsetzungsmaßnahme wider.
Meta verwies zunächst auf übermäßiges Posten oder andere Kontoaktivitäten, bevor Ingenieure die Warnung mit Claude-bezogenem Browsing in Verbindung brachten. Hätten die Organisatoren daraufhin weniger Aktualisierungen veröffentlicht oder legitime Inhalte entfernt, hätten diese Änderungen die von Meta später identifizierte Aktivität nicht behoben.
Diese Unterscheidung ist wichtig, weil Organisationen häufig auf Hinweise der Plattform angewiesen sind, um zu verstehen, was schiefgelaufen ist und wie sich eine erneute Sperrung vermeiden lässt. Sind diese Hinweise ungenau, müssen Nutzer möglicherweise Verhaltensweisen untersuchen, die nie für die Einschränkung verantwortlich waren.
Organisationen, die mit Einschränkungen konfrontiert sind, sollten vor einer Änderung ihrer Veröffentlichungsweise Hinweise auf Verstöße sichern und die behaupteten Aktivitäten mit ihren eigenen Kontodaten abgleichen. Teams, die browserbasierte KI-Tools einsetzen, sollten außerdem separate Protokolle der automatisierten Anfragen führen, um festzustellen, ob ihre eigenen Agenten zu verdächtigem Datenverkehr beigetragen haben.
Plattformbetreiber sollten ungenaue Hinweise auf Verstöße im Rahmen des Einspruchsverfahrens korrigieren und den vollständigen administrativen Zugriff wiederherstellen, damit Kontoinhaber nicht aufgrund inzwischen zurückgezogener Vorwürfe handeln.
Weitere KI-Nachrichten: Die von Anthropic vorgeschlagene Beteiligung von 5 % könnte die steigende Bewertung des Unternehmens in erhebliche Finanzmittel für wohltätige und gesellschaftliche Initiativen verwandeln.