Mac Studioは2台のほうが1台よりコンピューティングリソースが多い。それでもAppleのAIベンチマークでは、構成によっては2台目のマシンを追加するとトークン生成がわずかに遅くなった。
Appleが2026年10月15日に発表した調査では、分散AI推論の性能は、マシン間で処理をどう分担するかに左右されることが分かった。この結果は、ローカルAIインフラを拡張する企業に実践的な課題を突き付けている。追加のハードウェアを導入するとネットワーク要件やコストが増える一方、性能が比例して向上する保証はないからだ。
このテストは、モデルの処理能力を高めることとAIの応答を高速化することでは、ワークロードの分散に異なるアプローチが必要だという点も示している。
Macを2台にしても常に速くなるとは限らなかった理由
Appleの機械学習チームが発表した研究では、エンジニアがAppleのオープンソースMLXフレームワークを使い、M5 Ultra搭載のMac Studioで大規模言語モデルをテストした。マシン同士は、リモートダイレクトメモリアクセス(RDMA)に対応したThunderbolt 5接続で通信した。
270億パラメータのQwen 3.8モデルと8,192トークンのコンテキストを使った場合、Mac Studio 1台の生成速度は毎秒19.69トークンだった。パイプライン並列化で2台を使うと毎秒19.44トークンとなり、このテストでは約1.3%遅くなった。
パイプライン並列化では、モデルのレイヤーをマシン間で分割し、1台のシステムには大きすぎるモデルを複数のコンピューターにまたがって実行できるようにする。ただし、レイヤーを順番に処理しても、トークン生成が必ず高速化するとは限らない。
一方、テンソル並列化では、個々のレイヤー内の計算を分割する。この手法を使ったAppleのMac 2台構成は毎秒33.27トークンに達し、4台では毎秒50.89トークンを達成した。
このアプローチではマシン間で頻繁に通信する必要があるため、ネットワーク遅延が重要な性能要因になる。また、パイプライン並列化と比べて実装が複雑になる可能性もある。
Appleは、長いコンテキストの処理では異なる結果を記録した。65,536トークンのコンテキストでは、パイプライン並列化により、初期プロンプトの処理が1台の場合と比べて最大約1.8倍高速になった。ただし、この改善は生成前のプロンプト処理に関するものであり、その後のトークン生成速度を示すものではない。
今回の調査結果は、Appleの従来のローカルAIインフラ計画に、より実測に基づく性能データを加えるものだ。同計画では、より大規模なモデルに対応する方法として複数Macのクラスター化を提案していた。
eWeekの分析:Mac 4台でAI生成速度が158%向上
AppleのQwen 3.8ベンチマークでは、テンソル並列化を使ったMac 4台が、同じモデルを実行するMac 1台の2.58倍のトークン生成速度を達成した。生成速度は毎秒19.69トークンから50.89トークンへ上昇し、Appleのテスト条件では158%の向上となった。
テンソル並列化したMac 2台から4台へハードウェアを倍増すると、生成速度は毎秒33.27トークンから50.89トークンへ上昇し、約53%向上した。
これらの計算は、Appleが公開した、1つのモデル、8,192トークンのコンテキスト、生成トークン数128、バッチサイズ1という測定値に基づいている。同時に発生する企業からのリクエストや、継続的な本番ワークロードにおける性能を示すものではない。
インフラ設計者にとって、今回の結果は調達上のトレードオフを浮き彫りにする。パイプライン並列化はより大規模なモデルに対応できる一方、テンソル並列化は生成速度を向上させられるものの、マシン間の通信がより多く必要になる。
ハードウェア要件は運用コストにも影響する。MicrosoftのローカルコーディングAIの要件は、呼び出しごとの推論料金を避けることで、インフラ費用をなくすのではなく、高メモリーのワークステーションへ支出が移る可能性を示している。
ネットワークも別の考慮事項となる。提案されているEquinix Inference Exchangeは、AIコンピューティングリソースを接続する方法として異なるアプローチを取り、インフラ設計が導入の選択肢をどう形作るかを示している。
Appleの結果は、生成速度が測定可能な形で向上することを示したが、本番環境での信頼性や、専用GPUインフラに対するコスト面の優位性を証明したわけではない。同時実行ワークロードでの独立したテストと総保有コストの比較を行えば、企業は何台のマシンを導入すべきかを判断するための、より確かな根拠を得られるだろう。
AIのヒントやコツ、プロンプト技術をもっと学びたい方に、AIとの話し方を無料でお教えします!
より良いプロンプトを書いてAIからより役立つ結果を得る簡単な方法を学んだり、他のAI講座を7日間無料で受講したりできます。eWeek読者は7日間無料で利用できます。すべてのレッスンはこちら →