AIプロセッサーは十分な計算能力を備えていても、データを待つ時間が生じることがある。Googleの最新ハードウェアは、このボトルネックに加え、AIモデルが処理する間の機密情報保護という、企業が抱えるもう1つの懸念にも対処する。
Googleは11月9日、2つの新しいテンソル・プロセッシング・ユニット（TPU）システムを発表した。メモリーを多用するAIワークロード向けに設計されたTPU 8i Maxと、コンフィデンシャルコンピューティング向けに構築されたTPU 8txだ。企業がますます複雑なAIエージェントを本番環境に移行する中、いずれもGoogleの第8世代TPUポートフォリオを拡張する。
両システムはまったく新しいチップアーキテクチャーではなく、既存のTPUシリコンを採用している。Googleのハードウェア発表は、企業がAIの導入とエンジニアリングサポートを拡大する際に直面する2つの制約、すなわちメモリーバンド幅と、処理中の独自データ保護に対処する。
AIのメモリーウォールに関する2024年の調査では、サーバーのピーク計算能力が2年ごとにおよそ3倍に伸びたのに対し、DRAMの帯域幅の伸びは1.6倍だった。この差は、プロセッサーを高速化するだけではAI推論が改善しない場合がある理由を説明する一助となる。
TPU 8i Max、メモリーバンド幅を2倍に
TPU 8i Maxは、2つのTPU 8iチップを1つのパッケージに統合する。Googleによると、TPU 8iと比べて計算能力、オンチップのスタティック・ランダム・アクセス・メモリー（SRAM）、および高帯域幅メモリー（HBM）の帯域幅を2倍にする。また、同じラック設置面積に2倍のシリコンを収める。
このシステムは、大規模なソフトウェアリポジトリーを分析するAIエージェントや、数時間に及ぶ動画を扱うAIエージェントなど、広範なコンテキストを必要とするワークロードを対象とする。メモリーバンド幅が広がれば処理の遅延を減らせる可能性があるが、ハードウェア資源を2倍にしても、アプリケーションのスループットが2倍になるとは限らない。
Googleはさらにモデル状態管理レイヤーであるTPU Syncを導入した。これは、アクセラレーターのメモリー、ホストメモリー、ストレージの間でキャッシュされたAIコンテキストを転送する。社内テストでは、特定のキャッシュ転送処理において90%を超える削減が示された。ただし、この結果はTPU 8i Maxではなく、Googleの旧世代アーキテクチャーであるIronwoodによるものだ。
実際の性能は、各ワークロードのメモリー要件、ネットワーク、利用率に左右される。企業は、追加のアクセラレーター容量に対する投資効果を評価する前に、これらの要因と併せてAIエージェントの運用コストを測定する必要がある。
TPU 8tx、コンフィデンシャルコンピューティングを追加
TPU 8txは、AI処理中のデータ保護に取り組む。コンフィデンシャルコンピューティングは、ハードウェアで支えられた分離によって使用中の情報を保護し、保存時および転送時の暗号化を補完する。
このシステムは、TPU 8tシリコンと第5世代AMD EPYCプロセッサーを組み合わせる。AMDは11月9日の発表で、同社のSecure Encrypted Virtualization技術が、ホストCPUから接続されたアクセラレーターへコンフィデンシャルコンピューティングの保護を拡張する仕組みを説明した。
Googleによると、TPU 8txは、機密データを別々のクラスター間で移動させることなく、非公開モデルのファインチューニング、蒸留、強化学習をサポートする。同社の説明では、BoardflyネットワークはTPU 8tと比べて最大2倍低いレイテンシーを実現し、コンフィデンシャルコンピューティングの保護によるオーバーヘッドも最小限に抑えられるという。
このシステムは、機密情報を処理する金融機関、医療提供者、その他の組織に訴求する可能性がある。2026年10月のCloudflare AIのデータ漏えいでは、以前のリクエストからキャッシュされた情報が、別の顧客に返されたレスポンスに含まれていた。この障害はメモリー分離の重要性を示すものだが、TPU 8txなら防げたという証拠はない。
eWeekが判明したこと：ハードウェア容量を増やしても、企業向けAIの性能向上が保証されるわけではない
Googleの仕様は企業向けAIインフラに対する2つのアプローチを示しているが、どちらも本番環境で企業がどれだけの恩恵を得られるかは明らかにしていない。
| TPU 8i Max | TPU 8tx | |
|---|---|---|
| 主な目的 | メモリーを多用するAIワークロード | 機密AI処理 |
| ハードウェア設計 | 1つのパッケージに2つのTPU 8iチップ | AMD EPYCホストを備えたTPU 8tシリコン |
| 主な改善点 | TPU 8i比で計算能力、SRAM、HBM帯域幅が2倍 | 使用中のデータをハードウェアで保護 |
| 企業での用途 | 大規模コンテキストの推論とAIエージェント | 非公開モデルのカスタマイズと機密ワークロード |
| まだ実証されていない点 | 本番環境での性能向上とコスト面のメリット | 第三者によるセキュリティ検証とコンプライアンス適合性 |
出典：Google CloudおよびAMD、2026年11月9日。性能仕様はメーカーの報告による。
TPU 8i Maxは計算能力とメモリーバンド幅を2倍にするが、ネットワーク、ストレージ、ソフトウェアによる制約を受けるワークロードでは、性能向上が小さくなる可能性がある。TPU 8txはハードウェアで支えられたコンフィデンシャルコンピューティングを追加するが、アプリケーションレベルの脆弱性をなくしたり、規制への準拠を確立したりするものではない。
企業の購入担当者は、TPU 8i Maxの経済性を評価するため、ワークロード固有のベンチマークと価格情報をなお必要としている。TPU 8txについては、AMDがアクセラレーターの識別情報とセキュリティー設定のハードウェア検証について説明しているが、顧客はアテステーションの証拠と第三者によるセキュリティーテストを評価しなければならない。
価格、提供状況、本番環境での性能が明らかになるまで、両システムの企業向けメリットは、アーキテクチャー仕様を超える部分では実証されていない。
AIに関するヒントやコツ、プロンプトのテクニックをもっと知りたいですか？私たちがAIとの話し方を無料でお教えします！The Neuron Academyの6分間コースをお試しください。The Neuron Academyは、職場でより自信を持ってAIを使えるよう専門家を支援する、実践的な学習プラットフォームです。
より良いプロンプトを書いてAIから役立つ結果を得るための簡単な方法を学ぶか、その他のAIコースも7日間無料でご覧ください。eWeekの読者は7日間無料でアクセスできます。すべてのレッスンをこちらでチェック →