Zwei Mac Studios verfügen über mehr Rechenressourcen als einer. In Apples KI-Benchmarks führte das Hinzufügen eines zweiten Rechners in einer Konfiguration jedoch zu einer leicht langsameren Token-Generierung.
Eine am 15. Oktober 2026 veröffentlichte Studie von Apple ergab, dass die Leistung verteilter KI-Inferenz davon abhängt, wie die Arbeit auf die Rechner aufgeteilt wird. Die Ergebnisse werfen praktische Fragen für Unternehmen auf, die ihre lokale KI-Infrastruktur ausbauen: Zusätzliche Hardware bringt Anforderungen an die Vernetzung und Kosten mit sich, ohne proportional höhere Leistung zu garantieren.
Die Tests zeigen außerdem, dass eine höhere Modellkapazität und schnellere KI-Antworten unterschiedliche Ansätze zur Verteilung der Arbeitslasten erfordern.
Warum zwei Macs nicht immer schneller waren
In einer von Apples Machine-Learning-Team veröffentlichten Studie testeten Ingenieure große Sprachmodelle auf M5 Ultra Mac Studios mit Apples Open-Source-Framework MLX. Die Rechner kommunizierten über Thunderbolt-5-Verbindungen, die Remote Direct Memory Access (RDMA) unterstützten.
Mit dem Modell Qwen 3.8 mit 27 Milliarden Parametern und einem Kontext von 8.192 Tokens generierte ein Mac Studio 19,69 Tokens pro Sekunde. Zwei Rechner mit Pipeline-Parallelisierung erzeugten 19,44 Tokens pro Sekunde und waren in diesem Test damit etwa 1,3 % langsamer.
Bei der Pipeline-Parallelisierung werden die Schichten eines Modells auf mehrere Rechner verteilt, sodass Modelle, die zu groß für ein einzelnes System sind, auf mehreren Computern ausgeführt werden können. Die sequenzielle Verarbeitung der Schichten beschleunigt die Token-Generierung jedoch nicht zwangsläufig.
Bei der Tensor-Parallelisierung werden stattdessen die Berechnungen innerhalb einzelner Schichten aufgeteilt. Apples Konfiguration mit zwei Macs erreichte mit dieser Methode 33,27 Tokens pro Sekunde, während vier Macs 50,89 Tokens pro Sekunde erzielten.
Dieser Ansatz erfordert eine häufige Kommunikation zwischen den Rechnern, wodurch die Netzwerklatenz zu einem wichtigen Leistungsfaktor wird. Im Vergleich zur Pipeline-Parallelisierung kann er außerdem die Implementierung komplexer machen.
Für die Verarbeitung langer Kontexte verzeichnete Apple ein anderes Ergebnis. Bei einem Kontext von 65.536 Tokens verbesserte die Pipeline-Parallelisierung die anfängliche Verarbeitung des Prompts gegenüber einem einzelnen Rechner um bis zu etwa das 1,8-Fache. Diese Verbesserung betraf die Verarbeitung des Prompts vor der Generierung, nicht die Geschwindigkeit, mit der anschließend weitere Tokens erzeugt wurden.
Die Ergebnisse ergänzen Apples frühere Pläne für eine lokale KI-Infrastruktur, in denen Multi-Mac-Cluster als Möglichkeit zur Unterstützung größerer Modelle vorgestellt wurden.
Was eWeek herausgefunden hat: Vier Macs steigerten die Geschwindigkeit der KI-Generierung um 158 %
In Apples Benchmark mit Qwen 3.8 erreichten vier Macs mit Tensor-Parallelisierung die 2,58-fache Token-Generierungsgeschwindigkeit eines einzelnen Macs mit demselben Modell. Die Generierungsgeschwindigkeit stieg unter den Testbedingungen von Apple von 19,69 auf 50,89 Tokens pro Sekunde – eine Verbesserung um 158 %.
Die Verdoppelung der Hardware von zwei Tensor-parallelen Macs auf vier steigerte die Generierungsgeschwindigkeit von 33,27 auf 50,89 Tokens pro Sekunde – ein Zuwachs von etwa 53 %.
Diese Berechnungen basieren auf Apples veröffentlichten Messwerten für ein Modell, einen Kontext von 8.192 Tokens, 128 generierte Tokens und eine Batchgröße von eins. Sie sagen nichts über die Leistung bei gleichzeitigen Anfragen aus Unternehmen oder bei anhaltenden Produktionsarbeitslasten aus.
Für Infrastrukturarchitekten machen die Ergebnisse einen Beschaffungszielkonflikt sichtbar. Die Pipeline-Parallelisierung kann größere Modelle aufnehmen, während die Tensor-Parallelisierung die Generierungsgeschwindigkeit steigern kann, aber mehr Kommunikation zwischen den Rechnern erfordert.
Auch der Hardwarebedarf beeinflusst die Betriebskosten. Microsofts Anforderungen an lokale Coding-KIveranschaulichen, wie der Verzicht auf Inferenzgebühren pro Aufruf die Ausgaben hin zu Workstations mit großem Arbeitsspeicher verlagern kann, anstatt Infrastrukturkosten vollständig zu beseitigen.
Die Vernetzung bringt einen weiteren Aspekt ins Spiel. Die vorgeschlagene Equinix Inference Exchange verfolgt einen anderen Ansatz bei der Verbindung von KI-Rechenressourcen und zeigt, wie das Infrastrukturdesign die Bereitstellungsoptionen prägt.
Apples Ergebnisse belegen messbare Geschwindigkeitsgewinne bei der Generierung, nicht jedoch die Zuverlässigkeit im Produktionsbetrieb oder einen Kostenvorteil gegenüber dedizierter GPU-Infrastruktur. Unabhängige Tests mit gleichzeitig anfallenden Arbeitslasten sowie Vergleiche der Gesamtkosten würden Unternehmen eine solidere Grundlage für die Entscheidung bieten, wie viele Rechner sie einsetzen sollten.
Möchten Sie mehr über KI-Tipps, Tricks und Prompting-Techniken erfahren? Lassen Sie sich beibringen, wie man mit KI spricht – kostenlos! Probieren Sie unseren sechswöchigen Kurs an der The Neuron Academy aus, unserer praxisorientierten Lernplattform, die Berufstätigen helfen soll, KI bei der Arbeit sicherer einzusetzen.
Lernen Sie einige einfache Methoden kennen, um bessere Prompts zu schreiben und nützlichere Ergebnisse von KI zu erhalten, oder testen Sie unseren anderen KI-Kurs sieben Tage lang kostenlos. eWeek-Leser erhalten sieben Tage kostenlosen Zugang. Hier finden Sie alle Lektionen →