AIモデルの価格が下がっても、インフラコストが下がるとは限りません。エージェントの活動、データ移動、ワークロードの配置が企業のAI支出に及ぼす影響を見ていきます。
Zingle AIの共同創業者であるAnant Dadu氏は、トークンあたりの価格が80%安いAIモデルにチームを切り替えればコストが下がると考えていました。ところが、チームのSnowflakeデータウェアハウスの支出は、翌日に約1万4000ドルから2万6300ドルへ急増したと伝えられています。これは、同氏が共有したLinkedInへの投稿によるものです。Dadu氏によると、ユーザー、質問、基盤となるデータは変わっていませんでした。
この投稿の時点では、チームは増加の原因を特定できていませんでした。データベースクエリの増加、非効率なSQL、追加のリトライが影響した可能性はありますが、いずれも確認されていません。
この事例は、エージェント型AIに潜むコストを浮き彫りにしています。エージェントがデータベースやその他のシステムで発生させる処理は、トークン価格だけでは捉えられない追加費用につながる可能性があります。
AIエージェントがデータクエリの量を増やす理由
AIエージェントは1つのリクエストを複数のステップに分解し、処理の過程でクエリやツール呼び出しを生成することがあります。
従業員がエージェントに地域別の売上が減少した理由を尋ねたとします。エージェントは取引記録を調べ、在庫水準を比較し、過去の傾向を確認し、考えられる原因を調査するかもしれません。結果がはっきりしなければ、クエリを修正したり、追加情報を取得したりする可能性もあります。
従業員に見えるのが最終的な回答だけであっても、各ステップでインフラリソースが消費されます。Clouderaは 分析チームの経験を動画で紹介し、モデル価格が下がってもデータインフラのコストが上昇し得ることを説明しました。
Gartnerは 2026年8月に予測したところ、AIアプリケーションの高度化に伴い、エージェント型ワークフロー1件あたりの推論コストは2028年までに5倍以上増加するとしています。この予測は推論コストに関するものですが、複雑なワークフローによって、安価なトークンによる節約が相殺され得ることを示しています。
安価なAIの裏に隠れたデータ料金
モデル価格は比較しやすい一方、エージェントの活動は複数の企業システムで費用を発生させます。以下の表では、主なコスト項目と、組織が監視すべき対象を示します。
コスト項目 | AIエージェントが費用を発生させる仕組み | 監視すべき対象 |
モデルとツールの利用 | 推論、プロンプトの反復、オーケストレーション、API呼び出し | トークン支出とツール呼び出し |
データ処理 | SQLクエリ、ベクトル検索、変換、ウェアハウスのコンピュート | クエリ量、スキャンしたデータ量、コンピュート利用量 |
インフラのオーバーヘッド | ストレージ、データ転送、同期、関連サービス | 転送料金、ストレージコスト、リトライ |
使えない回答を返すクエリでも、処理リソースは消費します。エージェントが大規模なデータセットをスキャンしたり、非効率なSQLを実行したりすると、検索の反復は特に高コストになる可能性があります。
また、FinOps Foundationが2026年10月に発表したガイダンスでは、オブザーバビリティ、評価ツール、オーケストレーションプラットフォーム、ベクトルデータベースも、予想外のAI支出の要因になり得ると指摘しています。
これらのサービスは別々に購入・請求される場合があるため、組織はAIアプリケーションの運用にかかる総コストを把握しにくくなることがあります。
コストの可視性は、どのアプリケーションがその活動を発生させているかを把握できるかどうかにも左右されます。エージェントやワークフロー単位でクエリとインフラ消費を追跡すれば、高コストな処理を特定し、利用が拡大する前に支出の責任を明確にできます。
EYが2026年9月に実施した調査では、インフラ、ソフトウェア、ガバナンス、組織変更などの費用を含めると、AIにかかる企業全体のコストはトークン請求額の約3倍に達する可能性があると推計しています。この推計はモデルに基づくもので、普遍的な倍率として扱うべきではありません。
データの所在がAIインフラコストに及ぼす影響
エージェントがクラウド環境とプライベート環境にまたがってデータへアクセスすると、その情報のコピーや転送によってストレージと処理のコストが増加する可能性があります。
例えば、顧客記録を別のAI環境へ移せばアクセスは簡単になるかもしれませんが、継続的なストレージと同期が必要になります。クラウドプラットフォーム間やリージョン間の転送には、さらなる料金が加わる可能性があります。
組織は、エージェントが管理下にあるデータをその所在場所でクエリできるかどうかを検討すべきです。データ量、アクセス頻度、インフラ価格によって、ローカルアクセスとデータ移動のどちらが経済的かが決まります。
コストを基準にワークロードの配置を選ぶ
パブリッククラウドのインフラは変動する需要への柔軟な対応に適している一方、プライベート環境は継続的なワークロードや機密データに向く場合があります。コストは、利用率、利用可能な容量、インフラ価格に加え、データレジデンシー要件の有無によって決まります。
AI推論のスケーリングに関するMcKinseyの2026年10月の調査は、導入に関する判断をワークロードの要件に合わせることの重要性を強調しました。
「推論用のコンピュートは、クラウド、企業、エッジ、デバイスに分散され、配置場所は経済性、レイテンシー、データ管理によって決まる」と、同調査は述べています。
Clouderaの Anywhere Cloudは、パブリッククラウド、プライベートデータセンター、主権環境にまたがるデータとAIのワークロードをサポートします。オープンなレイクハウスアーキテクチャにより、互換性のある処理エンジンが共有された企業データへアクセスできるため、ワークロードごとに別々のコピーを維持する必要性が減ります。これにより組織は、管理下にあるデータの近くにAIワークロードを配置し、アプリケーションが発生させるインフラコストを管理する選択肢を広げられます。
クエリの最適化とキャッシュは、AIエージェントによって引き起こされる反復処理を減らせます。テーブル管理や反復処理への制限も効率を高める可能性があります。チームは導入コストを比較する際、これらの要素を考慮すべきです。
完了したタスクでAIのROIを測定する
同程度の能力を持つモデルでも、タスクを完了するために必要なクエリやリトライの回数によって、インフラコストは異なります。IBMのAIエージェントのトークン支出管理に関するガイダンスは、「タスクを達成するためにいくら費やしたのか」と問うよう組織に促しています。
失敗した試行や人による確認も含めてワークフローの総コストを算出し、それを正常に完了したタスク数で割ります。これにより、AIの運用コストをより有用な形で測定できます。
チームは、タスク完了あたりのコストと、それによってもたらされる価値を比較できます。運用コストの高いエージェントでも、手作業を減らしたり顧客サービスを改善したりするなら、より高いリターンを生み出す可能性があります。例えば、反復的なデータエンジニアリングやセキュリティのタスクを自動化すれば、従業員はより複雑な問題に集中できます。
AIシステム全体の効率を高める
AIエージェントを試験運用から本番環境へ移す前に、組織は3つの問いを検討すべきです。
- 必要なデータはどこにあるのか？エージェントが必要とするデータセットと、そのアクセスに不要な移動や複製が伴わないかを確認します。
- 各タスクはどれだけの処理を発生させるのか？成功した結果を出すために必要なクエリ、転送、リトライ、処理を測定します。
- ワークロードは適切な環境で実行されているか？インフラコスト、パフォーマンス、ガバナンス要件を比較し、最も経済的な配置を判断します。
ワークロードの活動を監視すれば、拡大する前に高コストな処理を特定できます。モデル価格が下がる中、企業はインフラ消費を管理しながらAIの導入を拡大できます。
企業がAIを支えるためにデータインフラをどのように適応させているかを詳しく知りたい方は、Clouderaの調査The Great AI Re-Architectureをご覧ください。