OpenAI hat die „Chain-of-Thought“-Funktion seines KI-Modells o3-mini aktualisiert, damit Nutzer leichter verstehen können, wie es denkt. Dies geschieht nach der Veröffentlichung von DeepSeek-R1, einem konkurrierenden Reasoning-Modell, das ebenfalls den Gedankengang hinter seinen Antworten zeigt.
Reasoning-Modelle sind darauf ausgelegt, ihre Entscheidungsprozesse Schritt für Schritt aufzuschlüsseln, und benötigen daher länger, um Antworten zu generieren. Solche Erklärungen erleichtern das Verständnis dafür, warum eine bestimmte Antwort gegeben wurde, und ermöglichen es Nutzern zu erkennen, warum ihr Prompt möglicherweise die gewünschte Antwort hervorgebracht hat oder nicht. Außerdem können KI-Forscher damit potenzielle Verzerrungen oder Fehler identifizieren und die Reasoning-Fähigkeiten des Modells verbessern.
Die Zusammenfassung des Gedankengangs hinter einer o3-Antwort. Bild: OpenAI
In einem X-Post, erklärte OpenAI, das Unternehmen habe „einen aktualisierten Gedankengang in OpenAI o3-mini für kostenlose und zahlende Nutzer sowie in o3-mini-high für zahlende Nutzer veröffentlicht“. o3-mini-high ist eine kostenpflichtige Variante von o3-mini mit umfassenderen Reasoning-Fähigkeiten und detaillierteren Gedankengängen – auf Kosten längerer Antwortzeiten.
Warum legt OpenAI seine Reasoning-Prozesse erst jetzt offen?
Vor diesem Update gaben die OpenAI-Modelle o3-mini, o1 und o1-mini den Nutzern lediglich Zugriff auf Zusammenfassungen des Gedankengangs statt auf das vollständige Reasoning; das Unternehmen erklärte, dies geschehe „um einen ausgewogenen Kompromiss zwischen Geschwindigkeit und Genauigkeit zu bieten“, wobei das Unternehmen in der Vergangenheit auch auf einen „Wettbewerbsvorteil“ als Faktor für diese Entscheidung verwiesen hat. Nutzer wurden mit Sperren bedroht, wenn sie versuchten, o1 per Jailbreak dazu zu bringen, seinen vollständigen Gedankengang preiszugeben.
Da jedoch DeepSeeks quelloffenes R1 ohne Bedenken die gesamte Geschichte hinter seinen Antworten zeigt, hat OpenAI beschlossen, den Deckel nicht ganz abzunehmen, ihn aber einen Spalt weit zu öffnen. Ein OpenAI-Sprecher erklärte gegenüber eWeek, dass im Rahmen des Updates „der rohe Gedankengang des Modells verborgen bleibt, da er schwer verständlich ist“, stattdessen aber auf eine Weise präsentiert wird, die „leicht zu lesen“ ist.
Die neue, ausführlichere Zusammenfassung des Reasonings wird nach Angaben des Sprechers gegenüber eWeek in einem Nachbearbeitungsschritt vereinfacht, der übermäßig komplizierte Erklärungen verständlicher macht, alle Erklärungen zu „unsicherem“ Reasoning entfernt und sie in die Muttersprache des Nutzers übersetzt. „Mit diesem Update können Sie dem Reasoning des Modells folgen, was Ihnen mehr Klarheit und Vertrauen in seine Antworten gibt“, fügten sie in einer E-Mail hinzu.
In einem kürzlich veröffentlichten Reddit-Thread schrieb Kevin Weil, Chief Product Officer von OpenAI: „Wenn der gesamte Gedankengang angezeigt wird, führt das zu einer Destillation durch Wettbewerber. Wir wissen aber auch, dass die Menschen – zumindest Power-User – dies möchten. Deshalb werden wir den richtigen Ausgleich finden.“ Dies ist das Ergebnis dieses Ausgleichs.
Verwandt: Sam Altman: OpenAI war beim Thema Open Source auf der „falschen Seite der Geschichte“