Während KI-Unternehmen um den Aufbau der Zukunft wetteifern, hat Anthropic ein Team zusammengestellt, das untersuchen soll, ob diese Zukunft tatsächlich das ist, was wir wollen.
Am 11. März stellte Anthropic „The Anthropic Institute“ vor, einen neuen Forschungsbereich, der sich mit den gesellschaftlichen Herausforderungen befasst, die KI mit sich bringen kann oder wird. Mitgründer Jack Clark wird das Institut leiten und übernimmt außerdem die neue Rolle als Head of Public Benefit.
„Das Institut verfügt über ein interdisziplinäres Team aus Ingenieuren für maschinelles Lernen, Ökonomen und Sozialwissenschaftlern und führt drei Forschungsteams von Anthropic zusammen und baut sie aus“ erklärte Anthropic in seinem Blog.
Der Ankündigung zufolge führt das Institut drei bestehende Teams unter einem Dach zusammen:
- Frontier Red Team: Stresstests für KI-Systeme, um die Grenzen ihrer Fähigkeiten zu verstehen.
- Societal Impacts: Untersucht, wie KI in der realen Welt tatsächlich eingesetzt wird.
- Economic Research: Beobachtet die Auswirkungen von KI auf Arbeitsplätze und die Gesamtwirtschaft.
Zusätzlich zu dieser Gründung kündigte das Anthropic-Team den Ausbau seines Public-Policy-Teams an. Sarah Heck verlässt ihre bisherige Position als Head of External Affairs, nachdem sie zur Head of Public Policy ernannt wurde. Das Unternehmen gab außerdem bekannt, dass es in diesem Frühjahr sein erstes Büro in Washington, D.C., eröffnen wird.
Warum jetzt?
Anthropics Ankündigung macht ungewöhnlich transparent, welche Dringlichkeit hinter diesem Schritt steht.
„In den fünf Jahren seit der Gründung von Anthropic hat sich die Entwicklung von KI unglaublich schnell vollzogen“, schrieb das Unternehmen in seinem offiziellen Blogbeitrag.
„Wir brauchten zwei Jahre, um unser erstes kommerzielles Modell herauszubringen, und nur drei weitere, um Modelle zu entwickeln, die schwerwiegende Cybersicherheitslücken entdecken, eine breite Palette realer Aufgaben übernehmen und sogar beginnen können, das Tempo der KI-Entwicklung selbst zu beschleunigen.“
Das Unternehmen erwartet nach eigenen Angaben „in den nächsten zwei Jahren weitaus dramatischere Fortschritte“ und ist der Ansicht, dass das Zeitfenster zur Vorbereitung der Gesellschaft schnell kleiner wird.
Weiter erläuterte das Unternehmen, dass das Institut Fragen untersuchen soll, die von „Wie wird leistungsfähige KI Arbeitsplätze und Volkswirtschaften neu gestalten?“ über „Welche Bedrohungen wird sie verstärken oder neu entstehen lassen?“ bis zu „Wenn die rekursive Selbstverbesserung von KI-Systemen tatsächlich einsetzt, wer auf der Welt sollte davon erfahren, und wie sollten diese Systeme gesteuert werden?“ reichen, und so weiter.
Es ist wichtig anzumerken, dass Anthropic das Weiße Haus bereits zuvor gewarnt hatte, dass sich das Zeitfenster für Maßnahmen zur KI-Sicherheit schließt, und prognostiziert hatte, dass Systeme mit einer Intelligenz auf Nobelpreisniveau bereits 2026 entstehen könnten. Erst vor wenigen Wochen trat außerdem Mrinank Sharma, ein ehemaliger leitender Verantwortlicher für KI-Sicherheit bei Anthropic, zurück und warnte, dass „die Welt in Gefahr ist“.
Das Institut scheint eine Reaktion darauf zu sein: Es stellt ein Team zusammen, das die unbequemen Fragen offen ausspricht, statt sie in internen Memos zu verbergen.
Wer leitet das Institut?
Bisher hat das Unternehmen einige wichtige und beeindruckende Personalien für das Gründungsteam gewonnen. Dazu gehören:
Matt Botvinick, Resident Fellow an der Yale Law School, war zuvor Senior Director of Research bei Google DeepMind und Professor für neuronale Informationsverarbeitung an der Princeton University. Er leitet die Arbeit des Instituts zu KI und Rechtsstaatlichkeit.
Anton Korinek stößt während seines Urlaubs von der University of Virginia zum Unternehmen. Er verstärkt das Economic-Research-Team und wird die Frage untersuchen, „wie transformative KI das Wesen wirtschaftlicher Aktivität selbst neu gestalten könnte“.
Zoë Hitzig, die zuvor die sozialen und wirtschaftlichen Auswirkungen von KI bei OpenAI untersucht hat, stößt dazu, um Anthropics wirtschaftswissenschaftliche Arbeit mit dem Training und der Entwicklung von Modellen zu verknüpfen. Es handelt sich eindeutig nicht um ein herkömmliches Sicherheitsteam, sondern eher um eine Einheit für politische Aufklärung.
Was macht das Institut anders?
Anthropic zufolge unterscheidet sich das Institut von herkömmlicher Unternehmensforschung. In den Worten des Unternehmens handelt es sich um „eine Einbahnstraße in beide Richtungen“.
„Das Institut verfügt über eine einzigartige Perspektive: Es hat Zugang zu Informationen, die nur den Entwicklern von Frontier-KI-Systemen zur Verfügung stehen“, schrieb Anthropic in seinem Blog.
Das Institut wird seine Erkenntnisse nicht nur für den internen Gebrauch veröffentlichen. Es wird auch direkt mit Beschäftigten sprechen, die mit Arbeitsplatzverlusten konfrontiert sind, mit Branchen, die umgewälzt werden, und mit anderen Gemeinschaften, die das Gefühl haben, dass die Zukunft ohne sie voranschreitet und ihnen eine klare Strategie für den Umgang damit fehlt.
„Was wir lernen, wird beeinflussen, was das Institut untersucht und wie unser Unternehmen als Ganzes zu handeln beschließt“, schreibt Anthropic.
Das Institut entwickelt neue Teams, deren Arbeit bereits begonnen hat. Außerdem stellt es ein kleines Analystenteam ein, das seine Forschungsergebnisse weltweit verbreiten soll.
Dieses Maß an Transparenz ist genau das, was Kritiker der KI-Branche seit Langem gefordert haben. Sicherheitsprüfungen zwischen Anthropic und OpenAI über Unternehmensgrenzen hinweg im vergangenen Jahr zeigten, wie selten echte Bemühungen um Rechenschaftspflicht noch immer sind. Ob das Institut seinem Auftrag gerecht wird, hängt von einer Sache ab: ob seine Erkenntnisse das tatsächliche Handeln von Anthropic verändern dürfen.
Ebenfalls lesenswert: Microsoft ist Anthropic zur Seite gesprungen, nachdem das Pentagon das KI-Unternehmen als „Risiko für die Lieferkette“ eingestuft hatte, und damit einen Streit darüber verschärft hat, ob KI für Massenüberwachung oder autonome Waffen eingesetzt werden sollte.