Sam Altman hat an diesem Wochenende die Leitprinzipien von OpenAI veröffentlicht.
Bemerkenswert ist der Zeitpunkt, denn im Monat davor waren bereits drei Geschichten erschienen, die unmittelbar etwas darüber aussagen, ob diese Prinzipien Bestand haben.
Die fünf Prinzipien lauten Demokratisierung, Befähigung, universeller Wohlstand, Resilienz und Anpassungsfähigkeit. Zunächst lohnt es sich, die Prinzipien für sich genommen zu verstehen.
- Altman argumentiert dafür, dass die Macht der KI breit verteilt werden sollte, anstatt von einer Handvoll Unternehmen vereinnahmt zu werden.
- Er verpflichtet sich zu demokratischer Entscheidungsfindung: Öffentliche Prozesse sollten bestimmen, wie sich diese Technologie entwickelt, und nicht nur die interne Führung.
- Er fordert Transparenz, wenn OpenAI seinen Kurs ändert, und er fordert Regierungen auf, neue Wirtschaftsmodelle zu entwickeln, die die Vorteile der KI verbreiten, statt sie zu konzentrieren.
Zusammengenommen ergeben sie eine konkrete Aussage über Rechenschaftspflicht: OpenAI sollte nicht nur seinen Investoren Rechenschaft ablegen, sondern auch der Öffentlichkeit, deren Leben diese Technologie umgestalten wird. Diese Perspektive ist wichtig, weil jede der drei folgenden Geschichten einen anderen Teil davon auf die Probe stellt.
Test Nr. 1: Spiegeln die formalen Systeme die erklärten Prioritäten wider?
Zwei Wochen vor dem Beitrag zu den Prinzipien veröffentlichte OpenAI ein aktualisiertes Preparedness Framework, also sein Verfahren zur Beobachtung, wann Modelle leistungsfähig genug werden, um ernsthafte Risiken darzustellen. Es deckt biologische und chemische Bedrohungen, Cybersicherheit und Szenarien der Selbstverbesserung von KI ab.
Das ist detaillierte, ernsthafte Arbeit. Auf dem Papier ist es genau die Art von Infrastruktur, die Altmans Prinzip der Resilienz beschreibt. OpenAI weiß eindeutig, wie man formale Sicherheitssysteme aufbaut. Das macht die nächsten beiden Beispiele umso betrachtenswerter.
Test Nr. 2: Entspricht die interne Kultur den formalen Verpflichtungen?
Vor drei Wochen veröffentlichten Ronan Farrow und Andrew Marantz von The New Yorker eine Recherche, die auf internen Memos, HR-Dokumenten und mehr als 100 Interviews mit aktuellen und ehemaligen Mitarbeitern beruht. Die Ergebnisse?
- Der ehemalige Chefwissenschaftler Ilya Sutskever stellte 70 Seiten mit Slack-Nachrichten zusammen, in denen behauptet wird, Altman habe den Vorstand über interne Sicherheitsprotokolle getäuscht.
- OpenAIs Team für Superalignment, dem einst 20 % der Rechenleistung des Unternehmens für die Erforschung existenzieller Sicherheitsrisiken zugesagt worden waren, wurde aufgelöst, bevor es seine Mission abschließen konnte; die tatsächlichen Ressourcen lagen Berichten zufolge weit unter der ursprünglichen Zusage.
- Als die Reporter darum baten, mit jemandem im Unternehmen zu sprechen, der an existenzieller Sicherheit arbeitet, sagte ein Sprecher, der Begriff sei ihm nicht bekannt.
Dieses letzte Detail wirft Fragen auf, die sich angesichts der neuen Prinzipien schwerer beiseitewischen lassen. Altmans Prinzip der Resilienz verpflichtet OpenAI dazu, mit Regierungen und Institutionen an neuen Risiken zu arbeiten. Eine solche nach außen gerichtete Rechenschaftspflicht lässt sich nur schwer aufrechterhalten, wenn die interne Sprache über diese Risiken unbemerkt verblasst ist.
Test Nr. 3: Erstreckt sich die Rechenschaftspflicht über das Unternehmen hinaus, wenn Schaden entsteht?
Am Tag vor dem Beitrag sprach Altman der Gemeinschaft von Tumbler Ridge in BC offiziell sein Bedauern aus. Im Februar verübte dort ein Schütze einen Amoklauf. Monate vor dem Angriff waren die Gespräche des Schützen mit ChatGPT bei OpenAI intern markiert und das Konto gesperrt worden.
Niemand informierte die Strafverfolgungsbehörden. Altman räumte das Versagen in seinem Brief direkt ein. Er erschien einen Tag vor einem Beitrag, in dem sich OpenAI dazu verpflichtete, mit Regierungen und internationalen Behörden zusammenzuarbeiten, um schwerwiegenden Schaden zu verhindern.
Dies ist der Test, dem die Prinzipien rückwirkend am wenigsten gewachsen sind. Die Lücke besteht hier nicht zwischen einem Dokument und einer Kultur. Sie klafft zwischen einer erklärten Verpflichtung zu externer Rechenschaftspflicht und einer Entscheidung, die in dem Moment, als es darauf ankam, innerhalb des Unternehmens blieb.
Warum das wichtig ist
Jede dieser Geschichten stellt aus einem anderen Blickwinkel dieselbe grundlegende Frage: Wem legt OpenAI tatsächlich Rechenschaft ab – und wie?
Der formale Rahmen legt nahe, dass die Antwort alle lautet – mit der gebotenen Gründlichkeit. Die Erkenntnisse zur internen Kultur werfen die Frage auf, ob das auch dann gilt, wenn es schwierig wird. Der Fall Tumbler Ridge fragt, was passiert, wenn dies nicht der Fall ist. Altmans Beitrag zu den Prinzipien löst all das nicht auf. Aber er setzt einen hinreichend konkreten Maßstab, an dem sich dies bewerten lässt.
Unsere Einschätzung
Das Nützlichste an Altmans Beitrag ist, dass es ihn jetzt gibt. Nicht, weil er irgendetwas klärt, sondern weil er Regulierungsbehörden, Nutzern und allen, die aufmerksam verfolgen, was geschieht, etwas Konkretes gibt, an dem sich künftige Entscheidungen messen lassen. Der Maßstab ist gesetzt. Was wir noch nicht wissen, ist, ob die Institution, die am besten in der Lage ist, ihn durchzusetzen, tatsächlich diejenige ist, die ihn verfasst hat.
Anmerkung der Redaktion: Dieser Inhalt erschien ursprünglich im Newsletter unserer Schwesterpublikation, The Neuron. Weitere Beiträge von The Neuron gibt es, wenn Sie sich hier für den Newsletter anmelden.