Anthropicによると、未発表のClaudeモデルはソフトウェアの脆弱性を発見するだけでなく、セキュリティ上の欠陥を組み合わせ、主要ブラウザーやOSを対象とする実用可能な5つのエクスプロイトチェーンを構築した。
同社は10月27日に公開した研究で、Chrome、Safari、Android、Windows、Linuxを対象とするデモについて説明した。報告によると、Chromeのある概念実証では、悪意のあるWebページを開くとブラウザーのサンドボックスから脱出できたほか、Linuxのデモではroot権限でのコマンド実行を実現した。
テストは管理された環境で実施されたもので、現実世界で確認された攻撃を記録したものではない。しかし、AIシステムが複雑なエクスプロイトを開発する能力を高めるなか、セキュリティチームには喫緊の問いが突きつけられている。組織は脆弱性を十分に迅速に特定し、修正できるのかという問いだ。
Claude、バグの発見からエクスプロイトチェーンの構築へ
エクスプロイトチェーンとは、脆弱性を組み合わせて複数の防御を回避するものだ。Anthropicによると、Claudeはプロンプトを受けた後にコードを分析し、ソフトウェアをリバースエンジニアリングして、エクスプロイトをテストした。
Chromeでは、モデルは4つの脆弱性を連鎖させたと報告されている。V8のメモリー破壊に続き、メモリー保護とブラウザーのサンドボックスを回避する脆弱性を利用した。Anthropicによると、悪意のあるWebページが、追加の操作なしにmacOSの計算機を起動する概念実証を発動させた。
Anthropicはまた、より広範なChrome研究で62件のCVEを発見し、そのうち13件はサンドボックスからの脱出に至るものだったと報告した。修正プログラムはChrome 156に含まれている。4つの脆弱性を使ったチェーンは、この大規模な研究活動の一環として行われたデモの1つだった。
5つのデモが異なるセキュリティ境界を突破
5つのエクスプロイトチェーンは、必要なアクセス条件や影響が異なる、さまざまなセキュリティ上の弱点を標的にした。悪意のあるWebページから始まるものがある一方、物理的なアクセスや特定のネットワークサービスを必要とするものもあった。
プラットフォーム | 開始条件 | 報告された影響 | 報告された修正 |
| Chrome | 悪意のあるWebページ | サンドボックス外でのコード実行 | Chrome 156 |
| Safari | 悪意のあるWebページ | サイト間データアクセス | Appleの修正プログラム提供済み |
| Android | ロックされたPixel 9へのUSBアクセス | 写真を抽出 | Googleが対応 |
| Windows | 公開されたHTTP/3サービス | リモートクラッシュ | Microsoftが修正 |
| Linux | Multipath TCPリスナー | root権限でのコマンド実行 | カーネル修正が上流に取り込まれる |
Anthropicによると、Safariのチェーンは任意コードを実行することなく同一生成元ポリシーを回避した一方、Windowsのデモではリモートからシステムをクラッシュさせた。Linuxの概念実証では、カーネルアドレスを露出させるまでに48分、rootコマンドを実行するまでにさらに5分を要した。
eWeekの分析：エクスプロイトチェーンがもたらすリスクは一様ではない
今回の発見は、実行可能な概念実証と現実的な脅威の違いを浮き彫りにしている。アクセス条件、修正プログラムの提供状況、独立した検証の有無によって、セキュリティチームが結果をどう解釈すべきかは変わる。
エクスプロイトチェーンの数より露出状況が重要
5つのデモは、いずれも同じ緊急度の脅威を意味するわけではない。
悪意のあるWebページによって発動するブラウザーのエクスプロイトは、攻撃シナリオであり、ロックされたスマートフォンへの物理的なアクセスを必要とする攻撃とは異なる。同様に、ネットワークベースの脆弱性は、影響を受けるサービスが有効化され、到達可能かどうかに左右される。
セキュリティチームにとって、この違いは修正の優先順位を決める際に重要となる。公開された本番サービスに影響する脆弱性は、まれな設定や端末への直接アクセスを必要とする脆弱性より、直ちに対応すべき場合がある。
今回のデモは、実行可能な概念実証をすべて同等の脅威とみなすのではなく、悪用可能性、アクセス条件、修正プログラムの提供状況を併せて評価しなければならない理由を示している。
ベンダーの修正はClaudeの自律性を証明するものではない
The Hacker Newsによると、GoogleとAppleは、Anthropicの研究者が特定の脆弱性の発見にClaudeを役立てたことを認めた。
しかし、作業のどの程度をClaudeが自力で完了し、どの程度に人間の支援が必要だったのかは依然として不明だ。Anthropicはテストで使用したモデルの正確な種類を明らかにしておらず、調査対象となった情報源も、Androidの修正を確認するGoogleの公開アドバイザリーを特定していない。
脆弱性の発見結果は慎重に解釈する必要がある
The Hacker Newsと Malloryは、WindowsとLinuxの脆弱性について追加の詳細を提供した。実際のリスクは、影響を受けるソフトウェア、システム構成、エクスプロイトの要件によって異なる。セキュリティチームはベンダーのアドバイザリーを確認し、影響の有無と利用可能な修正プログラムを確かめるべきだ。
今回のテストは AIを活用したエクスプロイト開発を実証するものだが、これらのエクスプロイトチェーンを使った現実世界での攻撃や、完全に自律した悪用を確認したものではない。
セキュリティチームは発見結果を検証済みの修正につなげなければならない
Anthropicのデモは異なるセキュリティリスクを扱っているため、適切な対応は関係するシステムによって異なる。ユーザー、ITチーム、開発者は、自分たちが使用・管理する端末、サービス、ソフトウェアに影響する脆弱性に重点を置き、それらに対応すべきだ。
- ブラウザーとモバイル端末のユーザー:利用可能なブラウザーと端末のアップデートをインストールし、スマートフォンを不正な物理アクセスから保護する。AndroidのテストではUSB接続が必要だった。
- IT・セキュリティチーム:公開されたHTTP/3サービスとMultipath TCPサービスを確認し、導入済みの修正プログラムを検証したうえで、影響を受ける構成をベンダーのアドバイザリーと照合する。
- 開発者:提案されたコード変更をスキャンし、AIが報告した欠陥を検証し、リリース前に修正をテストする。すべての発見結果が実行可能なエクスプロイトだと決めつけてはならない。
「既存のバックログを修正するだけでは、問題の半分しか解決しない」と Anthropicは記し、開発者がコード変更を提案した際にセキュリティスキャンを実施するよう推奨した。
組織にとって当面の優先事項は、影響を受ける構成を確認し、利用可能な修正プログラムを導入し、リリース前に新しいコードのセキュリティ上の弱点をテストすることだ。
より大きな意味では、個々の脆弱性を見つけることが、もはや悪用で最も難しい部分ではない可能性がある。AIツールが欠陥を組み合わせる能力を高めるなか、セキュリティチームは、攻撃者がそれらを実行可能なエクスプロイトチェーンに変える前に危険な組み合わせを特定する必要がある。
ClaudeのようなAIツールからより有用な結果を得たいですか？無料の6分間 「How to Talk to AI」コースで、より明確なプロンプトの書き方とAIとの効果的な取り組み方を学べます。eWeek読者は、The Neuron Academyのその他のAIコースにも7日間無料でアクセスできます。 すべてのレッスンはこちら →