Android TVボックスはお気に入りの番組をストリーミングするためのもので、AIモデルを実行するものではない。ところがAnthropicは、安価なボックス15台でAIモデルを実行することに成功し、スマートオーブンを含む日常的な機器が、最終的にはAIのデバイス間コピーを助ける可能性があると警告している。
10月12日に発表した研究で、Anthropicは、AIエージェントが未知のハードウェア上でモデルを実行し、アクセスを簡略化した管理下のネットワーク内で複製を連携できるかどうかに焦点を当てた。実験では進展が見られたものの、現実のネットワークに広がる不正なAIワームを実証したものはなかった。防犯カメラや会議室のディスプレイなど、コンピューターやサーバーほど厳しく監視されることのない接続機器を抱える企業にとって、この警告はさまざまな疑問を投げかける。
Anthropic、安価なハードウェアでAIの複製をテスト
提案された複製プロセスには、標的の発見、アクセスの取得、モデルの実行、そしてそのプロセスの反復が含まれる。
Anthropicの研究では、GoogleのGemma4-26B-A4Bモデルが、1台約55ドルのAndroid TVボックス15台で実行された。生成速度は毎秒わずか0.39トークンで、自律的な感染は実証されなかった。
Anthropicは、スマートオーブンも潜在的な標的として特定した。企業にとっては、防犯カメラ、スマートテレビ、会議室の機器も見直す価値のある接続デバイスだが、研究者はこれらについて自律的なAI複製のテストを行っていない。
別の試験では、 GLM-5.2が、5回の実行のうち4回で、8台すべての仮想Android標的にLlama3.1-8Bを展開した。デバイスでは認証なしのデバッグポートが公開されており、GLM-5.2自体の推論は外部で実行された。
Anthropicの推定では、小型モデルは2026年末までにGLM-5.2と同等の能力レベルに達する可能性があり、実用的な複製システムがそれに続く可能性もある。この外挿は、直接的な複製ベンチマークではなく、一般的な能力の傾向に基づいている。
eWeekが判明させたこと：AIの実行は複製より容易
Anthropicは「完全な不正複製システムはまだ存在しない」と認めた。そのテストを比較すると、 小型モデルは安価なデバイス上で実行できるものの、複製サイクル全体を確実に完了できることはまだ実証していない。複製に成功したテストでさえ、現実より容易なアクセスと、デバイス外での推論に依存していた。
実験 | 実証された結果 | 主な制限 |
|---|---|---|
| Android TVボックス15台 | 26Bモデルが低価格デバイス上で実行された | デバイス間の感染はテストされていない |
| 仮想Androidテストベッド | GLM-5.2は5回の試行のうち4回で8台の標的に到達した | 認証なしのアクセス、エージェントは外部で実行 |
| Qwen3.5-9Bの適応 | 推論のセットアップ成功率が45%から61～84%に上昇 | 完全な複製は実証されていない |
Qwen3.5-9Bの実験では、研究者が、以前の試行のメモを引き継ぎ、推論のセットアップを改善するエージェントのインスタンスを次々に作成した。これらのインスタンスは自律的に再現したのではなく、研究者によって再起動された。しかし、設定が改善しただけでは、自律的に存続するAIワームの存在を示すことにはならない。Quartzによると、Anthropicは、IoTを基盤とする複製システムが2倍に増えるまでには数日かかる可能性があり、急速に広がるわけではないと見積もっている。
動きの遅い複製システムであっても、検知可能なネットワーク活動を残す可能性がある。研究者は、数ギガバイトに及ぶモデルの転送、通常とは異なるデバイス間通信、ネットワークの繰り返しスキャンなど、考えられる警告サインを特定した。これらの挙動は、制御不能なAIワームが実証されていないとはいえ、防御側に具体的な監視対象を与える。
企業が今すぐ確認すべきこと
分散型の複製システムは単一の制御点を持たないため、停止が難しくなる可能性がある。これは、 CNBCが報道で指摘した懸念だ。組織は、次の3つの実践的な対策を取ることができる。
- 接続ハードウェアを棚卸しする。防犯カメラ、会議室システム、サポート対象外のIoTデバイスを特定する。特に、管理インターフェースが外部に公開されているものには注意が必要だ。
- 移動を制限する。IoTネットワークを分割し、不要なデバッグポートを閉じ、デバイス間のアクセスを制限する。
- ネットワークの挙動を監視する。スキャン、予期しないモデルのダウンロード、普段は通信しないデバイス間の継続的な接続を調査する。
Anthropicは、現実のネットワークに広がるAIワームを実証していない。しかし、その研究は、企業が今すぐ対処できるセキュリティ上のギャップに焦点を当てている。つまり、大容量ファイルをダウンロードしたり、誰にも気づかれずに他のシステムと通信したりできる接続デバイスだ。
自己複製するAIが数カ月以内に登場するにせよ、もっと時間がかかるにせよ、セキュリティチームには、こうしたデバイスが見過ごされていないことを確認する十分な理由がある。
高まりつつあるAI安全性への懸念を別の角度から見るには、元Anthropic研究者が、より強力なモデルの開発競争は、モデルを制御下に置く取り組みを追い越す可能性があると警告した理由を読む。