OpenAI versucht, ein Problem zu lösen, das sich nicht allein mit einer Gleichung bewältigen lässt.
OpenAI kündigte am 15. Okt. an, 5 Millionen US-Dollar zu einer Initiative der Simons Foundation beizusteuern, die insgesamt 15 Millionen US-Dollar an gebündelten Finanzmitteln und Ressourcen der Foundation, von Anthropic und OpenAI umfasst. Die Ankündigung folgt auf Kritik an der Veröffentlichung Hunderter von KI erzeugter mathematischer Manuskripte.
Das Programm wird Forschende finanzieren, die KI-generierte Arbeiten bewerten, neue Werkzeuge kennenlernen und gemeinsame Standards für den Einsatz von KI in der Mathematik entwickeln. Es stellt der mathematischen Community mehr Ressourcen zur Verfügung, um mit der Technologie umzugehen; Fragen zu Urheberschaft, Überprüfung und der schieren Menge KI-generierter Forschung bleiben jedoch bestehen.
Mathematik-Community wehrt sich gegen OpenAIs Forschungs-Rollout
Der Streit verschärfte sich, nachdem OpenAI im September angekündigt hatte, dass ein unveröffentlichtes Modell eine vorgeschlagene Lösung zu den Navier–Stokes-Gleichungen. Laut Euronewsstellten zwei Mathematiker, die an einem ähnlichen Ergebnis gearbeitet hatten, infrage, ob OpenAIs Arbeit auf ihrer beruhte. OpenAI bestritt, ihre unveröffentlichten Arbeiten gesehen zu haben.
Am 6. Okt. veröffentlichte OpenAI eine Sammlung mathematischer Manuskripte, die von einem internen KI-Modell erstellt worden waren. Die Association for Human Mathematics erklärte, Mathematiker hätten „nicht darum gebeten, dass diese Arbeit erledigt wird“, und warf dem Unternehmen vor, etablierte Forschungsnormen zu missachten.
Die Veröffentlichung schafft zudem eine erhebliche Prüfaufgabe: Mathematiker müssen Korrektheit, Neuheit und Verbindungen zu bestehender Forschung bewerten. OpenAIs Repositoryweist darauf hin, dass sich die Ergebnisse in unterschiedlichen Stadien der Überprüfung befinden und dass einige Ergebnisse ohne formalisierte Beweise Fehler enthalten könnten.
OpenAI erklärt, eine unabhängige Mathematik- und KI-Beratergruppekonsultiert, Protokolle für Überarbeitungen und Zitate eingerichtet und computerprüfbare Versionen vieler Beweise mithilfe des Lean-Proof-Assistenten veröffentlicht zu haben. Diese Schritte bieten Möglichkeiten, die Arbeiten zu prüfen, stellen jedoch nicht fest, dass jedes Ergebnis korrekt ist, und lösen den Streit um die Urheberschaft nicht.
OpenAIs 5 Millionen US-Dollar fließen in Überprüfung und Standards
OpenAIs Beitrag ist Teil von insgesamt 15 Millionen US-Dollar an gebündelten Finanzmitteln und Ressourcen der Simons Foundation, von Anthropic und OpenAI.
Die Simons Foundation wird die Finanzierung über Initiativen verwalten und vergeben, zu denen Workshops und eine offene Ausschreibung für Vorschläge gehören können. Ziel ist es, Mathematikern zu helfen, KI-gestützte Ergebnisse zu bewerten, neue Werkzeuge kennenzulernen, Perspektiven auszutauschen und gemeinsame Standards für den Einsatz von KI zu entwickeln.
OpenAI und Anthropic werden von der Foundation unterstützten Forschenden ebenfalls KI-Werkzeuge und Rechenressourcen zur Verfügung stellen. Die Ressourcen können über die Mathematik hinaus auch in die Grundlagenforschung reichen.
Die Simons Foundation verwaltet die Finanzierung
Die Struktur des Programms stellt die Simons Foundation an die Spitze der Verwaltung der Förderungen, statt den Prozess den KI-Unternehmen zu überlassen, die ihn finanzieren.
Laut dem Präsidenten der Simons FoundationDavid Spergel sollte die mathematische Community die Diskussion darüber anführen, wie KI-Werkzeuge „bewertet, eingeführt und eingesetzt“ werden, statt diese Entscheidungen einem einzelnen Unternehmen oder einer Institution zu überlassen.
Die Vereinbarung geht direkt auf einen Teil der Kritik daran ein, wer die Regeln für KI-gestützte Forschung festlegen darf. Sie klärt jedoch nicht, wie schnell KI-generierte Arbeiten veröffentlicht werden sollten oder wie die Urheberschaft geregelt werden soll, wenn Modelle Ergebnisse hervorbringen, die unveröffentlichter menschlicher Forschung nahekommen.
Was eWeek herausgefunden hat: Die Finanzierung geht auf die Überprüfung ein, nicht auf jede Beschwerde
Unsere Auswertung der Ankündigungen ergibt, dass die Initiative Evaluation, Zugang zu KI-Werkzeugen und Community-Standards unterstützt. Sie kündigt weder eine Lösung des Urheberschaftsstreits noch einen fertigen Rahmen für die Veröffentlichung und Überprüfung KI-generierter Mathematik an.
Die Bedenken der Mathematiker | Wie das neue Programm darauf reagiert |
|---|---|
| Zu viele KI-generierte Arbeiten zur Überprüfung | Die Finanzierung kann Workshops und andere Programme unterstützen, in denen Forschende aktuelle KI-gestützte Ergebnisse untersuchen. |
| Forschende benötigen Zugang zur Technologie | OpenAI und Anthropic werden von der Simons Foundation unterstützten Forschenden KI-Werkzeuge und Rechenressourcen zur Verfügung stellen. |
| KI-Unternehmen könnten die Regeln selbst festlegen | Die Simons Foundation wird die Finanzierung verwalten, während Forschende an der Gestaltung gemeinsamer Standards dafür mitwirken, wie KI bewertet, eingeführt und eingesetzt wird. |
| Fragen zur Urheberschaft und zu unveröffentlichten Arbeiten | Das angekündigte Programm legt keine neuen Regeln zur Urheberschaft fest und löst den Streit um OpenAIs frühere mathematische Arbeiten nicht. |
OpenAIs Repository führt derzeit 719 Manuskripte auf, die in 372 „Familien“ organisiert sind. Jede Familie fasst verwandte Arbeiten zusammen, die ein Hauptergebnis, unterstützende Argumente, Folgerungen oder alternative Beweise enthalten können. Diese Zahlen beschreiben die Organisation der Sammlung und nicht getrennte Entdeckungsserien.
Für Unternehmen bedeutet das, dass die Prüfungskapazität zu den Kosten der Einführung von KI-Forschungswerkzeugen gehören muss. Die Erzeugung weiterer möglicher Erkenntnisse kann den Aufwand für ihre Überprüfung erhöhen, selbst wenn die anfängliche Generierung schnell erfolgt.
Für Unternehmen, die KI in der Forschung einsetzen, im Engineering oder in anderen technischen Bereichen besteht ein praktikabler Ansatz darin, die Quellen, Annahmen und Modellversion hinter jeder Erkenntnis zu dokumentieren. Teams sollten außerdem eine qualifizierte prüfende Person benennen und festlegen, welche Belege erforderlich sind, bevor ein Ergebnis Einfluss auf ein Design, eine Investition oder eine veröffentlichte Aussage nimmt.
Überprüfung und Urheberschaft erfordern getrennte Prüfungen. Ein Ergebnis kann einer technischen Prüfung standhalten und dennoch die Frage aufwerfen, ob frühere Arbeiten angemessen gewürdigt wurden. Organisationen benötigen für beides einen Prozess.
Die Simons-Initiative könnte der mathematischen Community helfen, gemeinsame Standards zu entwickeln. Für Unternehmen, die ähnliche Werkzeuge einführen, lautet die unmittelbare Frage, ob ihre Fähigkeit, KI-generierte Erkenntnisse zu bewerten, mit ihrer Fähigkeit Schritt halten kann, diese zu erzeugen.
Möchten Sie mehr Tipps, Tricks und Prompting-Techniken für KI kennenlernen? Leser von eWeek erhalten sieben Tage lang kostenlosen Zugang zur The Neuron Academy, unserer praxisorientierten Lernplattform, die Berufstätigen helfen soll, KI bei der Arbeit sicherer einzusetzen. Alle Lektionen ansehen →
Wir zeigen Ihnen wie man mit KI spricht kostenlos! Probieren Sie unseren sechminütigen Kurs bei The Neuron Academy aus und lernen Sie einige einfache Möglichkeiten kennen, bessere Prompts zu schreiben und nützlichere Ergebnisse von KI zu erhalten – oder stöbern Sie sieben Tage lang kostenlos in unserem anderen KI-Kurs. Alle Lektionen hier ansehen →