-3.png?w=1024)
ByteDance trainiert Berichten zufolge ein KI-Modell, das 10 Billionen Parameter erreichen könnte – ein Zeichen für die deutliche Ausweitung der Vorstöße des TikTok-Eigentümers im Bereich der fortschrittlichsten künstlichen Intelligenz.
Das Modell befindet sich noch in der Vortrainingsphase, und seine endgültige Größe steht noch nicht fest, berichtet die Financial Times. Sollte es die gemeldete Größenordnung erreichen, würde es zu den größten jemals entwickelten KI-Modellen zählen.
Sollte es die gemeldete Größenordnung erreichen, wäre das System mehr als dreimal so groß wie Kimi K3 von Moonshot AI, derzeit mit 2,8 Billionen Parametern das größte öffentlich bekannte chinesische Modell. Branchenschätzungen zufolge verfügt Anthropics fortschrittliches Modell Mythos 5 über rund 8 Billionen Parameter, wobei Anthropic keine offiziellen Parameterzahlen veröffentlicht.
ByteDance setzt auf eigene Technologie
Berichten zufolge wird das Projekt von Seed geleitet, dem KI-Forschungsteam von ByteDance unter der Führung des ehemaligen Google-DeepMind-Wissenschaftlers Wu Yonghui. Das Team hat in China und im Ausland etwa 2.000 Mitglieder.
Ein bemerkenswerter Teil der Strategie ist ByteDances Berichten zufolge getroffene Entscheidung, auf Modelldestillation zu verzichten – also auf das Training eines Modells mithilfe von Ausgaben des KI-Systems eines anderen Unternehmens. Laut der Financial Times ist das Management von ByteDance überzeugt, dass eine eigenständige Entwicklung der einzige Weg ist, ein Modell zu bauen, das die Konkurrenz übertreffen kann.
Gründer Zhang Yiming bekräftigte diesen Ansatz Berichten zufolge bei einem jüngsten internen Treffen. Er forderte das Seed-Team laut der Financial Times.
Chinas KI-Rennen nimmt an Fahrt auf
Die gemeldeten Anstrengungen erfolgen, während chinesische KI-Unternehmen mit Nachdruck versuchen , den Rückstand zu führenden US-Laboren wie Anthropic und OpenAI aufzuholen. Jüngste Modelle von Moonshot und Alibaba haben starke Benchmark-Ergebnisse erzielt, und Berichten zufolge arbeiten mehrere chinesische Unternehmen an Systemen mit rund 5 Billionen Parametern.
ByteDance ist weniger präsent als viele heimische Konkurrenten, weil die meisten seiner KI-Modelle geschlossen und nicht mit offenen Gewichten veröffentlicht werden. Der Doubao-Chatbot des Unternehmens hat in China etwa 324 Millionen monatlich aktive Nutzer, während sein Videogenerierungsmodell SeeDance als eines der stärksten seiner Kategorie gilt.
Das Unternehmen hat außerdem viel in KI-Infrastruktur, den Ausbau von Rechenzentren, die Einstellung von Forschern, das Wachstum seines Geschäftskunden-KI-Geschäfts über Volcano Engine und die Entwicklung eigener KI-Chips investiert.
Was das bedeuten könnte
Das gemeldete Projekt ist weniger wegen der bloßen Zahl von Bedeutung als wegen dessen, was sie signalisiert. Das Training eines Modells dieser Größe würde enorme Rechenressourcen, spezialisierte Infrastruktur und ein langfristiges Engagement in der KI-Spitzenforschung erfordern.
Die Zahl der Parameter allein bestimmt nicht, wie leistungsfähig ein KI-Modell sein wird. Die Leistung hängt auch von den Trainingsdaten, der Architektur, den Optimierungsmethoden und davon ab, wie effizient das Modell seine Parameter nutzt. Ein System mit 10 Billionen Parametern könnte dennoch schlechter abschneiden als ein kleineres, aber besser trainiertes Modell.
Sollte ByteDance Erfolg haben, könnte das Modell dem Unternehmen eine stärkere Grundlage für Produkte in den Bereichen Verbraucher-KI, Videogenerierung und Unternehmensdienste bieten. Allgemeiner betrachtet würde es einen Trend verstärken, der die Branche bereits verändert: Chinesische Technologieunternehmen sind zunehmend bereit, in der Größenordnung der Spitzenforschung zu investieren, statt lediglich den größten US-Laboren zu folgen.
Weitere Nachrichten: Hugging-Face-CEO Clément Delangue sagte, China ist bei KI mit offenen Gewichten bereits führend und könnte einen umfassenderen Vorsprung bei Spitzenmodellen erlangen, während chinesische Entwickler immer offener auf der Arbeit ihrer Mitbewerber aufbauen.