CiscoはAnthropicのClaude MythosをAI Defenseプラットフォームに導入し、企業向けAIエージェントが操作されてデータを漏えいしたり、ツールを悪用したり、許可されていないアクションを実行したりしないか、セキュリティチームがより強力にテストできるようにする。
11月9日に開催されたCisco Live APJCで発表された今回の統合では、Claude Mythosを使い、個々のAIシステムに合わせた複数段階の攻撃を開発する。アクセスは当初、選定された企業に限定され、Ciscoは一般提供の時期を発表していない。
このアプローチは、自律型エージェントを導入する企業にとって深刻化している問題を対象とする。つまり、AIシステムが社内アプリケーションやAPI、機密情報とやり取りする際に生じるセキュリティ上の弱点だ。Ciscoによると、既存の適応型レッドチームテストのフレームワークでこうした環境をテストでき、Mythosによってシミュレーション攻撃の推論能力が強化される。
CiscoのClaude Mythos統合の仕組み
Ciscoの発表によると、Claude MythosはAI Defenseの既存の適応型レッドチームテストシステムを置き換えるのではなく、拡張する。
標準的なレッドチームテストでは、プロンプトインジェクション、脱獄、機密データの露出など、一般的な脆弱性を確認する。適応型テストでは、特定のアプリケーションを調査し、その挙動に基づいて攻撃を生成し、結果に応じて戦術を変更する。
Claude Mythosは、複数の段階や接続されたツールを伴う、コンテキストに応じた攻撃を開発するため、より高度な敵対的推論を加える。
Ciscoは顧客によるモデルの利用方法も制限している。同社の技術的な説明では、4つの安全策を示している。
- 承認済みの対象：テストは、顧客が登録して承認したシステムに対してのみ実行される。
- 指定オペレーター：すべてのエンゲージメントは、認証済みの企業ユーザーにひも付けられる。
- 実行の制御：テストはあらかじめ定めた目的に沿って、時間制限内で実行され、停止することもできる。
- 監査可能性：アクションはレビュー用に記録される一方、顧客がMythosに自由にプロンプトを入力したり、インターネット上の任意のシステムをスキャンしたりすることはできない。
こうした制限が特に重要なのは、AnthropicのProject Glasswingが、同モデルに難しいソフトウェアの脆弱性を発見できる能力があることをすでに実証しているためだ。
課題は、高度なサイバーセキュリティモデルへの無制限のアクセスをユーザーに与えることなく、こうした能力を防御目的で利用することにある。
eWeekが確認したこと：テストは強化されるが、重要な空白は残る
Ciscoの発表からは、Mythosがどの程度セキュリティ成果を改善するかよりも、どのように制御されるかのほうが明確に分かる。
AI Defenseを評価する企業にとって、既存の機能と今後の統合を区別することは重要だ。
| 機能 | 利用可能性 | 企業が知っておくべきこと |
|---|---|---|
| 標準AIレッドチームテスト | ✔ 利用可能 | 一般的なAIの脆弱性をテスト |
| 適応型AIレッドチームテスト | ✔ 利用可能 | 特定のアプリケーションに合わせた攻撃を開発 |
| Claude Mythos統合 | ✖ 近日提供予定 | 高度な攻撃推論を追加。まずは選定企業が対象 |
| 独立したMythosの性能結果 | ✖ 未公開 | 検出性能の改善は未検証 |
| 一般提供の時期 | ✖ 未発表 | より広範なアクセスは、適格性の確認と展開方針に左右される |
出典：Ciscoによる11月9日の発表および技術ブログ。
セキュリティチームにとって、3つの点が重要だ。
- テストは予防ではない。悪用可能な弱点を発見しても、それが自動的に修正されるわけではない。組織には引き続き、実行時の安全策、エージェントの権限制限、修復プロセスが必要になる。
- モデルの能力は検出精度では測れない。Ciscoは、Mythosが追加でいくつの脆弱性を特定するのか、誤検知率はいくつか、発見結果の検証にどれだけの時間が必要かを明らかにする比較結果を公表していない。
- アクセス制限が直ちに導入する際の障壁となる。既存のAI Defense顧客は標準テストと適応型テストを利用できるが、Mythosによる拡張機能はまだ広く提供されていない。
脆弱性を発見することと修正することの違いは、すでにAnthropicのMythosに関する研究にも表れている。そこではAIが生成した大量の発見結果によって、検証とパッチ適用が難しくなった。
Ciscoは関連するSplunk Agent Observabilityの改善も発表した。AIへの支出と出力品質の評価を結び付けるTokenomicsは12月に非公開プレビューを開始し、AWS Marketplaceでの一般提供は2027年初頭を予定している。
機密性の高いシステムにアクセスできるエージェントの導入を準備する企業にとって、現実的な攻撃経路をテストし、権限を制限し、本番環境に移行する前に安全策が機能することを検証するという優先事項は変わらない。Claude Mythosによって、こうしたテストで発見できる弱点の範囲は広がる可能性があるが、その改善を裏付けるには顧客による結果が必要になる。
こちらも読む：Metaの30万ドルAIエージェント報奨金事例では、別の企業向けAI導入における認証の失敗、プロンプトインジェクション、認証情報の露出を取り上げている。