Chinas Antwort auf den wachsenden Rechenhunger der KI könnte darin bestehen, Daten mit Licht zu übertragen, statt weitere GPUs hinzuzufügen.
Forscher der Peking University entwickelten ein optisches Verbindungssystem, das die verteilte KI-Inferenz Berichten zufolge bei Nutzung eines Neuntels der üblichen Rechenressourcen um mehr als das 100-Fache beschleunigte, laut der South China Morning Post.
Die Forschung befindet sich noch in einer frühen Phase, könnte China und der weiteren APAC-Region jedoch einen zusätzlichen Weg zu schnellerer und energieeffizienterer KI-Infrastruktur eröffnen, während Rechenzentrumsbetreiber mit steigender Nachfrage nach Strom, höheren Hardwarekosten und Engpässen bei der Prozessorversorgung konfrontiert sind.
Optische Verbindungen nehmen eine wachsende KI-Bottleneck in Angriff
Die SCMP berichtete, dass die Forscher standardmäßige elektronische Chips mithilfe eigens entwickelter optischer Hardware und Algorithmen miteinander verbunden haben.
Das System nutzte Field-Programmable Gate Arrays (FPGAs), programmierbare Chips, die häufig in Rechenzentren, autonomen Fahrzeugen und anderen Anwendungen eingesetzt werden, die ein hohes Maß an paralleler Verarbeitung erfordern.
Ein siliziumphotonischer Transceiver übernahm die Umwandlung zwischen elektrischen und optischen Signalen mit 400 Gigabit pro Sekunde. Eine zweite Komponente steuerte die Kommunikation zwischen den Chips und ermöglichte es, Daten über optische Verbindungen zu übertragen, statt sich ausschließlich auf langsamere elektrische Verbindungen zu stützen.
Inside AI berichtete , dass das System beim Verarbeiten von Daten mit etwa der 100-fachen Geschwindigkeit eines vergleichbaren elektrischen Systems 99,5 % der Genauigkeit einer Ein-Chip-Konfiguration beibehielt.
Der Ansatz zielt auf eines der hartnäckigsten Probleme der KI-Infrastruktur. Je größer Modelle werden, desto mehr Zeit und Energie benötigen Prozessoren für die Datenübertragung zwischen Chips. Zusätzliche GPUs können die Kapazität erhöhen, steigern jedoch auch den Stromverbrauch, den Kühlbedarf und die Gerätekosten.
China sucht nach einem weiteren Weg, KI zu skalieren
Die Forschung ist für China besonders relevant, da seine Technologieunternehmen und Rechenzentrumsbetreiber zusätzliche Rechenkapazität suchen, ohne sich ausschließlich auf größere GPU-Cluster zu stützen.
Optische Verbindungen zwischen Chips könnten chinesischen KI-Entwicklern letztlich dabei helfen, Daten schneller zwischen Prozessoren zu übertragen und dabei die für die Inferenz erforderliche Menge an Rechenhardware zu reduzieren. Eine höhere Effizienz wäre wertvoll, da Betreiber Stromverbrauch, Kühlbedarf, Gerätekosten und den Zugang zu modernen Prozessoren bewältigen müssen.
Die Kompatibilität mit häufig verwendeten FPGAs verschafft dem Design gegenüber optischen Computersystemen, die vollständig auf eigens entwickelten Prozessoren basieren, ebenfalls einen praktischen Vorteil. Bestehende Rechenzentren müssten jedoch noch erhebliche Hardwareänderungen vornehmen, bevor sie die Technologie in großem Maßstab einsetzen könnten.
Der Durchbruch ist noch nicht für Rechenzentren bereit
Das System bleibt eine Labordemonstration und ist noch keine produktionsreife Plattform.
Die Forscher müssen die optischen Komponenten noch miniaturisieren und verpacken, ihre Zuverlässigkeit über lange Zeiträume testen und nachweisen, dass die Leistungsgewinne auch in deutlich größeren Clustern bestehen bleiben. Siliziumphotonische Hardware könnte zudem schwieriger und teurer herzustellen sein als herkömmliche elektrische Verbindungen.
Inside AI berichtete, dass das System noch unter Beweis stellen muss, dass es dieselbe Leistung auch in deutlich größeren Clustern mit Tausenden verbundenen Knoten aufrechterhalten kann.
Chinesische Cloud-Anbieter und Unternehmen sollten die Ergebnisse als mögliche Richtung für künftige Infrastruktur betrachten und nicht als Ausrüstung, die sie heute kaufen können.
Die Studie deutet darauf hin, dass China die Kapazität für KI-Inferenz durch effizientere Kommunikation von Chip zu Chip erhöhen könnte. Der kommerzielle Einsatz wird jedoch davon abhängen, ob das Design seine Vorteile bei Latenz, Genauigkeit und Ressourcenverbrauch auch im großen Maßstab beibehalten kann.