OpenAI hat eine Forschungsvorschau von GPT-5.3-Codex-Spark veröffentlicht, einer leichtgewichtigen Version seines neuesten Codex-Systems, die speziell für Programmierung in Echtzeit entwickelt wurde.
Das Modell ist darauf ausgelegt, schnelle Antworten auf Aufgaben wie das Bearbeiten von Funktionen, die Verfeinerung von Logik oder die Anpassung von Benutzeroberflächen in Entwicklungstools zu liefern. Nach Angaben von OpenAI ist das Modell so optimiert, dass es sich „nahezu verzögerungsfrei“ anfühlt, und kann auf Hardware mit extrem niedriger Latenz mehr als 1.000 Tokens pro Sekunde erzeugen.
Zum Start ist Codex-Spark auf Text beschränkt, verfügt über ein Kontextfenster von 128K und steht ChatGPT-Pro-Nutzern über die Codex app, die Befehlszeilenschnittstelle und die VS-Code-Erweiterung zur Verfügung. Die Nutzung während der Vorschau unterliegt separaten Ratenlimits und kann in Zeiten hoher Nachfrage in eine Warteschlange eingereiht werden.
Angetrieben von Cerebras-Hardware
Das neue Modell ist das erste große Produkt aus OpenAIs Infrastrukturpartnerschaft mit dem KI-Chip-Unternehmen Cerebras. Codex-Spark läuft auf der Wafer Scale Engine 3 (WSE-3), einem spezialisierten Prozessor für Inferenz mit hoher Geschwindigkeit. Ziel ist es, eine sogenannte Latenz-zuerst-Bereitstellungsebene zu schaffen, die herkömmliche GPU-Infrastruktur ergänzt.
„Was uns an GPT-5.3-Codex-Spark am meisten begeistert, ist die Partnerschaft mit OpenAI und der Entwicklergemeinschaft, um herauszufinden, was schnelle Inferenz ermöglicht – neue Interaktionsmuster, neue Anwendungsfälle und eine grundlegend andere Modellerfahrung. Diese Vorschau ist erst der Anfang“, sagte Sean Lie, CTO und Mitgründer von Cerebras.
OpenAI betonte, dass das Modell selbst nur einen Teil der Geschichte ausmacht. Das Unternehmen erklärt, es habe umfassendere Änderungen an seinem gesamten Inferenz-Stack vorgenommen, um Verzögerungen zu reduzieren.
Nach Angaben von OpenAI führte das Unternehmen eine dauerhafte WebSocket-Verbindung ein und optimierte seine Responses API. Diese Änderungen hätten den Overhead für Roundtrips zwischen Client und Server um 80 %, den Overhead pro Token um 30 % und die Zeit bis zum ersten Token um 50 % reduziert.
Der WebSocket-Pfad ist für Codex-Spark standardmäßig aktiviert und soll voraussichtlich auch bei anderen Modellen zum Standard werden.
Leistungseinbußen
Wie bei den meisten Dingen in der Technologie gibt es einen Zielkonflikt. Da Spark eine „kleinere Version“ des Flaggschiffmodells ist, ist es nicht ganz so leistungsfähig. Bei Benchmarks wie SWE-Bench Pro schneidet es gut ab, bleibt letztlich aber hinter dem vollständigen GPT-5.3-Codex.
Noch wichtiger ist, dass ihm die umfassende Sicherheitsfreigabe seines größeren Geschwisters fehlt. OpenAI erklärte, das Modell „habe keine realistische Chance, die Schwelle unseres Preparedness Framework für hohe Fähigkeiten in den Bereichen Cybersicherheit oder Biologie zu erreichen.“
Die Vorstellung erfolgt vor dem Hintergrund der umfassenderen Strategie von OpenAI zur Diversifizierung seiner Rechenkapazitäten. eWeek berichtete zuvor , dass OpenAI dem Kauf von Rechenkapazitäten von Cerebras in einem Geschäft im Wert von mehr als 10 Milliarden US-Dollar zugestimmt habe. In OpenAIs offizieller Ankündigung der Partnerschaft wurden jedoch keine finanziellen Details genannt.
Cerebras gab kürzlich bekannt, 1 Milliarde US-Dollar an frischer Finanzierung bei einer Bewertung von 23 Milliarden US-Dollar eingeworben zu haben, was die wachsende Rolle des Unternehmens in der KI-Infrastruktur unterstreicht.
Weitere Informationen zu den finanziellen Gegenwinden des Unternehmens finden Sie in unserer Analyse der zunehmenden Rentabilitätsprobleme von OpenAI und ihrer Bedeutung für das KI-Rennen.