-10.png?w=1024)
盗まれた企業向けAIの認証情報が、サイバー犯罪者が高性能AIモデルへのアクセスを転売し、正規のアカウント所有者に請求書だけを残す地下市場を助長している。
Google Threat Intelligence Group（GTIG）とMandiantの研究者らは、LLMミキサーと呼ばれるサービスを特定した。これらは侵害されたAPI認証情報を集約し、AIへのリクエストを被害者のアカウント経由で処理する。こうした運用により、料金を支払う顧客は正規のサブスクリプションを自分で契約せずに、高額なAIモデルを利用できる。
Googleの調査によると、一部の組織では1日で10万ドルを超える不正なAI利用料が発生しており、攻撃者が排除されるまでに、場合によっては費用が100万ドルに達したと報告されている。
調査結果は、AIトークンの乗っ取りが、機会 opportunistic な認証情報窃取を超え、悪意ある攻撃者にとっての犯罪ビジネスモデルへと発展しつつあることを示している。
攻撃者は盗んだAI認証情報をどのようにビジネス化するのか
Googleによると、LLMjackingとして知られるこの手口は、北米、南米、アジア太平洋地域の組織に影響を及ぼしている。
むしろAIモデルへの侵入を狙うのではなく、犯罪者は企業がAIモデルにアクセスするために使う認証情報を標的にする。これには、公開コードリポジトリに露出したAPIキーや、侵害されたアカウントを通じて入手した認証情報などが含まれる。
攻撃者がアクセスを得ると、被害者のアカウントを通じて商用AIモデルにリクエストを送信できるため、正規の所有者がすぐには気づかない利用料が発生する。
一部の運営者はさらに踏み込み、複数の侵害アカウントからのアクセスを組み合わせ、料金を支払う顧客に再販するLLMミキサーを作り出している。
調査で挙げられた例の1つがJet Nightで、月額およそ60ドルでAIを無制限に利用できるとうたっていた。
その結果、攻撃者が盗んだ認証情報を収益化する一方、AI利用の費用を、アカウントを侵害された組織に負担させる犯罪ビジネスモデルが成立している。
eWEEKの見解：盗まれたAIアクセスが生む新たな金銭的リスク
Googleの調査結果は、従来型の認証情報窃取とLLMjackingの違いを明らかにしている。攻撃者は、必ずしもデータを盗んだり被害者のシステムを妨害したりせずに、盗んだAIアクセスを継続的な収益源に変えられる。不正なリクエストが発生するたびに、侵害されたアカウントに請求されるリソースが消費されるため、サービスが稼働し続ける間も費用が積み上がっていく。
LLMミキサーの登場は、この脅威にさらなる層を加えている。運営者は盗んだ認証情報を自分で使うのではなく、複数の侵害アカウントからのアクセスを集約して顧客に再販できる。これにより、認証情報を盗む者とAIサービスを消費する者が分離され、不正な活動をアカウント所有者が見抜くことが難しくなる可能性がある。
セキュリティ上の懸念 | 従来型のアカウント侵害 | LLMjackingに特有の活動 |
|---|---|---|
| 主な標的 | ユーザーアカウント、認証情報、システム、またはデータ | クラウド認証情報、AI APIキー、または露出したモデルエンドポイント |
| 犯罪者側の利益 | 不正アクセス、データ窃取、またはリソースの悪用 | AIの不正利用とモデルアクセスの転売 |
| 企業への影響 | データ露出、業務中断、またはインフラコスト | 不正なAI利用料。データ窃取や、より広範なクラウド侵害を伴う可能性もある |
| 検知上の課題 | 不正アクセスや不審なアカウント活動の特定 | 異常なモデルリクエスト、認証情報の悪用、予期しないAI支出の検知 |
この比較は、企業がAIのセキュリティにどう取り組むべきか、そのギャップを浮き彫りにしている。従来のID管理は依然として不可欠だが、有効なAPI認証情報があれば、不正なリクエストを通常のアプリケーション通信に見せかけることができる。そのため、利用パターンや支出を把握できなければ、アクセスの監視だけでは不十分になりかねない。
今回の調査結果は、犯罪者が侵害したAIアカウントを使って、それらのリソースの料金を支払う同じ組織を攻撃していることを示すものではない。しかし、盗まれた認証情報が繰り返し収益化され、AIの利用そのものがセキュリティと金銭面のリスクになり得るビジネスモデルを実証している。
企業が認識すべきこと
LLMjackingの増加は、必ずしも新たな種類のセキュリティ上の弱点を意味するものではない。攻撃者が、使い慣れた手口である認証情報の窃取とアカウントの侵害を、新たな標的である企業向けAIサービスに適用していることを示している。企業がAIツールを導入するほど、適切に保護されていなければ攻撃者に悪用され得るアカウント、APIキー、接続も増えていく。
そのため、基本的なサイバーセキュリティ対策はAIの導入においても同様に重要だ。企業は、AIサービスにアクセスできる者と対象を制限し、APIキーを公開コードリポジトリに置かず、従業員のアカウントを多要素認証で保護し、アクセス権限を定期的に見直すべきである。
さらに、AIの利用状況と請求額を監視して異常な急増を把握し、可能な場合は支出上限を設定し、侵害が疑われる場合は直ちに認証情報を無効化すべきだ。
しかし、アクセスの保護は対策の一部にすぎない。AIを導入するということは、こうしたツールが企業のシステムのどこに接続されているのか、どの情報にアクセスできるのか、どれだけのリソースを消費できるのかを理解することでもある。企業データへのアクセスやタスクの実行を許可されたAIツールは、そのアカウントや認証情報が悪意ある者の手に渡れば、深刻なリスクになり得る。
AIを導入する企業にとって、教訓はAPI認証情報を、他の機密性の高いクラウドアクセスキーと同じように慎重に扱うべきだということだ。侵害されたアカウントは、企業データやコンピューティングリソースをさらすだけでなく、セキュリティチームが異常に気づく前に多額の請求を発生させる可能性もある。
AIサービスが企業活動に深く組み込まれるにつれ、組織は誰がモデルにアクセスできるかだけでなく、モデルがどのように使われ、その利用にいくらかかっているかも監視する必要がある。
AIセキュリティ関連の別のニュースでは、 Anthropicは、未公開のClaudeモデルが5つの実用的なエクスプロイトチェーンを構築したと報告した。このモデルはChrome、Safari、Android、Windows、Linuxを標的とし、AIがソフトウェアの脆弱性を組み合わせて、セキュリティ保護を回避し、機密データにアクセスし、システムを侵害できる攻撃を実現できることを示した。