Deux Mac Studio disposent de davantage de ressources de calcul qu’un seul. Pourtant, dans les benchmarks d’IA d’Apple, l’ajout d’une seconde machine a légèrement ralenti la génération de tokens dans une configuration.
L’étude d’Apple du 15 octobre 2026 a montré que les performances de l’inférence distribuée de l’IA dépendent de la manière dont le travail est réparti entre les machines. Ces résultats soulèvent des questions concrètes pour les entreprises qui développent leur infrastructure d’IA locale, car l’ajout de matériel entraîne des besoins et des coûts liés au réseau sans garantir des gains de performances proportionnels.
Les tests montrent également qu’augmenter la capacité des modèles et accélérer les réponses de l’IA nécessitent des approches différentes pour répartir les charges de travail.
Pourquoi deux Mac n’étaient pas toujours plus rapides
Dans les recherches publiées par l’équipe de machine learning d’Apple, des ingénieurs ont testé de grands modèles de langage sur des Mac Studio équipés de puces M5 Ultra, en utilisant le framework open source MLX d’Apple. Les machines communiquaient via des connexions Thunderbolt 5 prenant en charge l’accès direct à la mémoire à distance (RDMA).
Avec le modèle Qwen 3.8 de 27 milliards de paramètres et un contexte de 8 192 tokens, un Mac Studio a généré 19,69 tokens par seconde. Deux machines utilisant la parallélisation en pipeline ont produit 19,44 tokens par seconde, soit environ 1,3 % de moins lors de ce test.
La parallélisation en pipeline répartit les couches d’un modèle entre plusieurs machines, ce qui permet à des modèles trop volumineux pour un seul système de fonctionner sur plusieurs ordinateurs. Toutefois, le traitement séquentiel des couches n’accélère pas nécessairement la génération de tokens.
La parallélisation tensorielle divise quant à elle les calculs au sein de chaque couche. La configuration d’Apple avec deux Mac a atteint 33,27 tokens par seconde grâce à cette méthode, tandis que quatre Mac ont atteint 50,89 tokens par seconde.
Cette approche nécessite des communications fréquentes entre les machines, ce qui fait de la latence du réseau un facteur important à prendre en compte pour les performances. Elle peut également accroître la complexité de mise en œuvre par rapport à la parallélisation en pipeline.
Apple a obtenu un résultat différent pour le traitement des contextes longs. Avec un contexte de 65 536 tokens, la parallélisation en pipeline a amélioré jusqu’à environ 1,8 fois le traitement initial du prompt par rapport à une seule machine. Cette amélioration concernait le traitement du prompt avant la génération, et non la vitesse de génération des tokens suivants.
Les résultats ajoutent des données de performances mesurées aux premiers projets d’infrastructure d’IA locale d’Apple, qui présentaient le clustering de plusieurs Mac comme un moyen de prendre en charge des modèles plus volumineux.
Ce qu’a constaté eWeek : quatre Mac ont augmenté la vitesse de génération de l’IA de 158 %
Dans le benchmark Qwen 3.8 d’Apple, quatre Mac utilisant la parallélisation tensorielle ont atteint une vitesse de génération de tokens 2,58 fois supérieure à celle d’un seul Mac exécutant le même modèle. La vitesse de génération est passée de 19,69 à 50,89 tokens par seconde, soit une amélioration de 158 % dans les conditions du test d’Apple.
Le doublement du matériel, de deux Mac en parallélisation tensorielle à quatre, a fait passer la vitesse de génération de 33,27 à 50,89 tokens par seconde, soit un gain d’environ 53 %.
Ces calculs utilisent les mesures publiées par Apple pour un modèle, un contexte de 8 192 tokens, 128 tokens générés et une taille de lot de un. Ils n’établissent pas les performances en cas de requêtes simultanées d’entreprise ou de charges de production soutenues.
Pour les architectes d’infrastructure, ces résultats mettent en évidence un arbitrage en matière d’achat. La parallélisation en pipeline peut prendre en charge des modèles plus volumineux, tandis que la parallélisation tensorielle peut améliorer la vitesse de génération, mais nécessite davantage de communications entre les machines.
Les besoins matériels influent également sur les coûts d’exploitation. Les exigences de Microsoft en matière d’IA locale pour le codage montrent comment l’absence de frais d’inférence par appel peut déplacer les dépenses vers des stations de travail dotées d’une grande quantité de mémoire, plutôt que supprimer les coûts d’infrastructure.
Le Equinix Inference Exchange proposé adopte une approche différente pour connecter les ressources de calcul dédiées à l’IA, illustrant la manière dont la conception de l’infrastructure façonne les options de déploiement.
Les résultats d’Apple établissent des gains mesurables en matière de vitesse de génération, mais pas la fiabilité en production ni un avantage en termes de coûts par rapport à une infrastructure dédiée de GPU. Des tests indépendants menés avec des charges simultanées, associés à des comparaisons du coût total, fourniraient aux entreprises une base plus solide pour décider du nombre de machines à déployer.
Vous voulez découvrir des astuces, des conseils et des techniques de formulation pour l’IA ? Laissez-nous vous apprendre Comment parler à l’IA gratuitement ! Suivez notre cours de six minutes à The Neuron Academy, notre plateforme d’apprentissage pratique conçue pour aider les professionnels à utiliser l’IA avec plus d’assurance au travail.
Découvrez quelques façons simples de rédiger de meilleurs prompts et d’obtenir des résultats plus utiles avec l’IA, ou explorez gratuitement notre autre cours d’IA pendant sept jours. Les lecteurs d’eWeek bénéficient d’un accès gratuit de sept jours. Consultez toutes les leçons ici →