最初のチップを出荷する前にNvidiaに挑むには、相当な資金が必要だ。英国のFractileはそのために、7億2000万ドルを調達したばかりだ。
11月11日、欧州委員会はデジタル公正法(Digital Fairness Act)を提案した。サブスクリプションと解約に関する規則を厳格化する一方、依存性を持つ可能性のあるアプリ機能をユーザーがより細かく制御できるようにする。
FractileはAI推論、つまりモデルの学習後に応答を生成する処理向けのプロセッサを開発している。この投資によって英国のチップ設計への取り組みは弾みづくが、同社は最初の商用チップとシステムを2027年まで投入しない見込みだ。
英国の支援でFractileの評価額は70億ドルに達したと報じられる
Reutersによると、今回の資金調達ラウンドはThrive Capital、Founders Fund、Lightspeed、Redpointが主導した。
Reutersは、取引に関与した人物の話として評価額を70億ドルと伝えている。また、 英国政府の発表では、同社の企業価値は50億ポンドを超えたとされている。
この公的投資は、AIハードウェアの専門知識と高度な技能を持つ雇用を英国にとどめる取り組みを支える。対象には、Fractileのロンドンとブリストルの拠点周辺の雇用も含まれる。政府は今回のラウンドにおける自らの投資額を明らかにしていない。
Fractile、AIプロセッサの直上にメモリを積層
Fractileの設計では、高帯域幅メモリ(HBM)を使うGPUシステムで一般的な方式とは異なり、プロセッサのロジック回路の直上にDRAMを配置する。 投資家向け資料によると、この構成は、オンチップSRAMより大容量のメモリを提供しながら、モデルデータをより高速に移動させることを目指している。
同社はシリコンと並行して、システムとソフトウェアも開発している。メモリへのアクセスが高速化すれば、長いAI応答や増大するワークロードへの対応に役立つ可能性があるが、全体の性能はモデル対応、消費電力、周辺ソフトウェアにも左右される。
AI推論をより高速かつ低コストにする競争に、Fractileだけが参加しているわけではなさそうだ。 AMDとCerebrasは異なるチップ設計に取り組んでおり、 Groqは推論クラウドの拡大に向けて資金を調達した。Nvidiaでさえ、韓国のAIチップメーカーRebellionsとの提携を検討していると報じられている。
eWEEKの見解:Fractileの資金調達は商用化の実証を先行している
Fractileの 投資家向け資料と Nvidiaが公開したソフトウェアの発表からは、両社が異なる段階にあることが分かる。Fractileは専用の推論プラットフォームを準備している一方、Nvidiaはすでに出荷中のGPUシステムと、確立された推論ソフトウェアを持つ。
以下の比較では、独自に測定した性能ではなく、両社のハードウェア設計と商用化の準備状況を検討する。
比較 | Fractile | Nvidia |
|---|---|---|
| メモリ方式 | プロセッサのロジック回路の直上にDRAMを直接積層 | データセンター向けGPUでは一般にHBMを使用 |
| 主な用途 | AI推論専用 | AIの学習と推論 |
| 商用提供状況 | 最初のチップとシステムを2027年に投入予定 | GPUシステムはすでに導入済み |
| ソフトウェア | カスタムシステムとソフトウェアを開発中 | 確立されたCUDA、TensorRT-LLM、Dynamoのエコシステム |
| 公表された実証 | 検討した資料には、量産チップによる独立した比較データはない | 出荷中のプラットフォームとベンダーが報告した性能結果はあるが、Fractileとの直接比較はない |
高速なメモリはエンタープライズ向け要件の一部にすぎない
Fractileの設計は、大規模モデルが長い回答を生成したり、多数のリクエストを処理したりする際に重要な制約となるデータ移動を対象としている。ただし、メモリ帯域幅の向上が、1秒当たりの生成トークン数、応答時間、運用コストの同程度の改善に自動的につながるわけではない。
同社の主張は、同等のモデルと構成を使い、稼働するシステム上で検証する必要がある。
エンタープライズの購入者にとって関連する測定項目には、最初のトークンが出るまでの時間、同時需要下での出力速度、トークン当たりの消費エネルギー、100万トークン当たりの総コストなどがある。
テストでは、モデルサイズ、コンテキスト長、信頼性、既存のアプリケーションを大幅な変更なしに実行できるかどうかも考慮すべきだ。
ソフトウェアはシリコンと同じくらい重要になる可能性がある。Nvidiaの Dynamo 1.0のリリースでは、広く使われているフレームワークとの統合や、本番環境での推論オーケストレーションについて説明している。
Fractileは、対象とするワークロードに対して同等の運用上の実用性を示す必要がある。ただし、今回検討した資料には、その点を判断するのに十分な詳細がまだない。
英国のチップ設計は、英国のチップサプライチェーンを意味しない
政府の 投資発表は、高度な技能を要する雇用、国内の専門知識、海外技術への依存低減を強調している。しかし、英国の製造工場を特定しておらず、Fractileのプロセッサがどこで製造、パッケージングされ、供給されるのかも明らかにしていない。
英国や欧州の企業にとって、AIチップのサプライヤーがもう1社増えれば、選択肢が広がる可能性がある。ただし、製造能力、納期、技術サポート、システムをどこでホスティングするかについては、引き続き検討が必要だ。
英国で設計されたチップだからといって、必ずしも英国で製造されるとは限らず、顧客データが英国にとどまるとも限らない。
Fractileの2027年投入が7億2000万ドルの賭けを試す
今回の資金調達により、Fractileは負荷の大きいAIモデルを動かす別の方法を追求するための資金を得た。同時に期待も高まっている。有望なメモリ設計は、デモの域を超え、ソフトウェア、顧客サポート、価格設定を備えた信頼性の高い商用プラットフォームにならなければならない。
AIインフラを計画する欧州の組織にとって、Fractileは検討すべき新たな選択肢になり得るが、Nvidiaの代替となることはまだ証明できていない。
企業は、実際のアプリケーションでチップがどのように動作するか、消費電力がどれほどか、既存システムとどれほど容易に統合できるか、そして安定して納入できるかを確認する必要がある。
現時点で、7億2000万ドルの資金調達は投資家の強い関心を示しているが、Fractileは自社技術が何を実現できるのかをなお証明する必要がある。
Fractileのような企業がAIの高速化と効率化を推進するなか、AIツールの能力を最大限に引き出す方法を知ることも同じくらい重要だ。The Neuron Academyの無料6分間 AIとの話し方レッスンでプロンプトのスキルを磨こう。7日間の無料アクセスで、さらに多くのAIコースを受講することもできる。 すべてのレッスンはこちら。