全国規模の政治イベントの最中、No Kings CoalitionのInstagramアカウントが消失し、Metaが同団体を検閲しているとの非難を招いた。
Metaは10月17日、アカウントを誤って停止したと認め、その後、このセキュリティーアラートがAnthropicのClaudeに関連する自動閲覧活動によるものだったと説明した。同社は謝罪したが、主催者や議員は停止のタイミングに疑問を呈した。
この問題は、ソーシャルプラットフォームが抱えるより大きな課題を浮き彫りにしている。それは、人々がコミュニケーションに頼るアカウントを制限することなく、正当なAI搭載の閲覧と不審な自動活動をどう区別するかという課題だ。
エンジニアが別の引き金を特定
当初の説明では、異常に頻繁な投稿、共有、コメントが停止の原因とされていた。広報担当幹部のAndy Stone氏は、こうした行動が自動執行を発動させる可能性があると説明した。
日曜までに、エンジニアは異常な通信がClaudeのツールによるものだと突き止めた。Claudeのツールは、プロフィールや投稿、ハッシュタグに通常の約4倍の量で短時間にアクセスしていた。 Xへの10月18日の投稿で、Stone氏は、こうしたリクエストの速度と頻度がボットの活動に似ていたと説明した。
誰かが更新を公開する場合とは異なり、 ウェブサイトを閲覧するAIエージェントは新しい投稿を作成せずに、情報を繰り返し取得できる。別の自動審査により、その約1時間後、同連合のアカウントは停止されるべきではなかったと判断された。
全国規模のイベント中、主催者はより長いロックアウトに直面
No Kingsは、全50州とワシントンD.C.で約3,000件のイベントを開催したと報告した。主催者は11月3日の中間選挙を前に期日前投票を呼びかけており、Instagramは支持者への連絡に使われたチャンネルの一つだった。
一般からのアクセスは約90分後に回復したが、管理者はそれより長く締め出された。完全な管理権限が復旧したのは東部時間午後5時33分で、停止からおよそ4時間後だった。
停止措置後の 声明で、同連合はタイミングを批判し、説明を求めた。主催者は「選挙のさなかに投票に関するコミュニケーションを制限するのは受け入れられない」と記した。また、Metaが拡大を続けている AI支援型のアカウントサポートは、異議申し立てや復旧の改善を目的としているが、同様の事態を防ぐようMetaに求めた。
eWeekが発見したこと：Metaの自動執行ミスには記録に残る経緯がある
No Kingsの停止は、Metaの執行システムが正当なコンテンツやアカウントを制限した初めての事例ではない。eWeekが過去のFacebookにおける執行事例を検証したところ、Metaのシステムがエラーの兆候を検出した後も、誤った削除が続いていたことが分かった。
- 2022年のコロンビア警察風刺漫画。独立した 監督委員会の調査では、警察による暴力を批判した漫画が、画像の自動削除データベースに誤って追加されていたことが判明した。申し立てがあった215件の削除のうち、210件が覆された。社内アラートはエンジニアに届いていたが、委員会が介入するまで約1カ月にわたって画像はデータベースに残った。
- 2025年のFacebookグループ停止。ユーザーからは、鳥の写真撮影やゲームに特化したグループを含め、数千のコミュニティに影響する制限が報告された。Metaは 技術的エラーを認め、一部のFacebookグループに影響していた問題の修正に着手した。管理者はAIによるモデレーションの不具合を疑ったが、同社はAIの関与を確認しなかった。
これらの事例は、自動執行における異なる弱点を示している。コロンビアの漫画の事例では、削除データベースへの誤った登録が、削除の取り消し後もコンテンツに影響し続けた。Facebookグループの事例は、技術的エラーによって無関係なコミュニティ間でアクセスが妨げられる可能性を示した。
No Kingsの停止は、アカウント所有者に示された説明が、執行措置を実際に引き起こした原因を反映していない可能性があるという、別の問題をもたらす。
Metaは当初、過剰な投稿やその他のアカウント活動を原因として挙げたが、後にエンジニアはアラートをClaude関連の閲覧活動と結び付けた。主催者が更新の頻度を下げたり、正当なコンテンツを削除したりして対応していたら、そうした変更ではMetaが後に特定した活動には対処できなかった。
この違いは重要だ。組織は、何が問題だったのか、別の停止をどう避けるかを理解するため、プラットフォームからの通知に頼ることが多いからだ。通知が不正確だと、ユーザーは制限の原因ではなかった行動のトラブルシューティングに追われることになる。
投稿方法を変更する前に、制限を受けた組織は違反通知を保存し、指摘された活動を自分たちのアカウント記録と照合すべきだ。また、 ブラウザベースのAIツールを導入するチームは、自動リクエストのログを別に保管し、自分たちのエージェントが不審な通信に関与したかどうかを確認できるようにすべきである。
プラットフォーム運営者は、異議申し立ての手続きの一環として不正確な違反通知を訂正し、管理者の完全なアクセス権を復旧すべきだ。そうすれば、アカウント所有者が後に撤回された申し立てに基づいて行動するのを防げる。
AI関連ニュース：Anthropicが提案する5％の株式拠出は、上昇する企業評価額を慈善・社会事業への多額の資金に変えうる。