Das von der ehemaligen OpenAI-CTO Mira Murati gegründete Startup Thinking Machines Lab hat sein erstes Produkt vorgestellt: Tinker, eine API zum Feinabstimmen von KI-Modellen.
Tinker befindet sich jetzt in einer privaten Beta-Phase; interessierte Organisationen können Thinking Machines Lab kontaktieren. Die API ist seit ihrer Ankündigung am 1. Okt. kostenlos, wird laut dem Blogbeitrag jedoch in „den kommenden Wochen“ auf nutzungsbasierte Preise umgestellt.
Was macht Tinker?
Die Tinker-API ermöglicht es AI- und Sicherheitsforschern, große Sprachmodelle feinabzustimmen. So können sie mithilfe von Python mit den Algorithmen und Daten experimentieren, ohne den Aufwand des verteilten Trainings tragen zu müssen. Zu den Modellen, auf die innerhalb von Tinker zugegriffen werden kann, gehören unter anderem Alibaba’s Qwen-235B-A22B und Meta’s Llama-3.2-1B.
„Tinker bringt uns unserem Ziel näher, mehr Menschen Forschung an hochmodernen Modellen zu ermöglichen und diese an ihre Bedürfnisse anzupassen“, erklärte Thinking Machines Lab in seinem Ankündigungs-Blogbeitrag.
Die Verwendung von Low-Rank Allocation (LoRa) senkt die Kosten des Dienstes, da Thinking Machines Lab dadurch denselben Rechenressourcenpool für mehrere Trainingsläufe verwenden kann, teilte das Unternehmen mit.
Teams der Princeton University, der Stanford University, der University of California, Berkeley, sowie der gemeinnützigen KI-Sicherheitsorganisation Redwood Research haben bereits Projekte mit Tinker abgeschlossen.
Tinker Cookbook bietet vorgeschlagene Abstraktionen
Das zusammen mit der Tinker-API veröffentlichte Tinker Cookbook ist eine Open-Source-Bibliothek mit Beispielen für die Verwendung von Tinker und bietet Abkürzungen. Sie enthält gängige Abstraktionen, die Forschern dabei helfen, ihre Ziele durch die Anpassung ihrer Tinker-Trainingsumgebungen zu erreichen. Beispielsweise kann sie Schritt für Schritt durch die Feinabstimmung mathematischen Schlussfolgerns, von Konversationsdatensätzen, der Nutzung von Retrieval-Tools oder der Prompt-Destillation führen.
Die Gründer von Thinking Machines Lab sind erfahrene KI-Forscher
Murati gründete Thinking Machines Lab im Februar 2025. Zu ihr gesellten sich weitere Veteranen des KI-Booms, darunter OpenAI-Mitgründer John Schulman und ehemalige Mitarbeiter von Google, Meta, Mistral und Character AI.
Im September gab Thinking Machines Lab bekannt, dass seine Forscher einen Forschungsbeitrag veröffentlicht hatten, in dem es um die Verringerung des Nichtdeterminismus beziehungsweise der Tendenz generativer KI ging, auf dieselbe Frage unterschiedliche Antworten zu geben.