Der Leiter der KI-Sicherheit bei einem der bekanntesten Unternehmen für künstliche Intelligenz im Silicon Valley ist zurückgetreten. Als Grund nannte er große Bedenken angesichts globaler Krisen und interner Zwänge, die mit grundlegenden Werten kollidieren.
Mrinank Sharma, ein leitender Experte für KI-Sicherheit bei Anthropic, ist aus dem Unternehmen ausgeschieden. Er erklärte, er ziehe sich zu einem Zeitpunkt zurück, an dem er glaube, dass die „Welt in Gefahr“ sei.
Sharma, der das Safeguards-Research-Team des Unternehmens leitete, gab seinen Abschied in einem am 9. Februar öffentlich veröffentlichten Brief an seine Kollegen bekannt. Darin blickte er auf seine Arbeit und seine Bedenken angesichts globaler Risiken zurück und erläuterte seine Entscheidung, außerhalb der schnelllebigen KI-Branche.
„Ich sehe mich immer wieder gezwungen, mich mit unserer Situation auseinanderzusetzen. Die Welt ist in Gefahr. Und zwar nicht nur durch KI oder Biowaffen, sondern durch eine ganze Reihe miteinander verbundener Krisen, die sich genau in diesem Moment entfalten“, schrieb Sharma in seinem Brief.
Während seiner zweijährigen Tätigkeit bei Anthropic arbeitete Sharma an mehreren wichtigen Sicherheitsinitiativen. Zu seinen Erfolgen zählte er unter anderem das Verständnis von KI-Schmeichelei, die Entwicklung von Abwehrmaßnahmen gegen KI-gestützten Bioterrorismus und die Erstellung eines der ersten Sicherheitskonzepte für KI.
Sein letztes Projekt konzentrierte sich laut dem Brief darauf, „zu verstehen, wie KI-Assistenten uns weniger menschlich machen oder unser Menschsein verzerren könnten“.
Werte, Druck und ein Wendepunkt
Ein wiederkehrendes Thema in Sharmas Brief ist das Spannungsverhältnis zwischen Werten und dem Druck der Realität innerhalb von Organisationen und der Gesellschaft.
„Während meiner gesamten Zeit hier habe ich immer wieder erlebt, wie schwierig es ist, unsere Werte tatsächlich unser Handeln bestimmen zu lassen. Ich habe das bei mir selbst gesehen, innerhalb der Organisation, wo wir ständig unter dem Druck stehen, das beiseitezuschieben, was am wichtigsten ist, und auch in der Gesellschaft insgesamt“, schrieb er.
Er fügte eine weiter gefasste Warnung über das Tempo technologischer Macht hinzu: „Wir scheinen uns einer Schwelle zu nähern, an der unsere Weisheit im gleichen Maß wachsen muss wie unsere Fähigkeit, die Welt zu beeinflussen – sonst müssen wir die Konsequenzen tragen.“
Der Brief wirft Anthropic zwar kein konkretes Fehlverhalten vor, doch sein Ton hat in der Tech-Branche eine Diskussion über die ethische Belastung ausgelöst, die mit der Arbeit an der Grenze des Machbaren in der KI-Entwicklung einhergeht.
Über interne Debatten hinaus greift Sharmas Abschied eine breitere öffentliche Angst vor künstlicher Intelligenz auf. Umfragen und öffentliche Debatten spiegeln zunehmend die Befürchtung wider, dass fortgeschrittene KI katastrophale Folgen haben könnte – von massenhaftem Arbeitsplatzverlust und gesellschaftlicher Destabilisierung bis hin zum Verlust menschlicher Handlungsfähigkeit und sogar zu existenziellen Risiken.
Prominente Technologen und Forschende warnen, dass eine ungebremste KI-Entwicklung die Fähigkeit der Gesellschaft, sie zu regulieren, überholen könnte. Verstärkt wird diese Sorge durch die rasche Veröffentlichung immer leistungsfähigerer Modelle. Sharmas Formulierung von einer Welt, die „in Gefahr“ ist, spiegelt diese umfassenderen Bedenken wider und verstärkt den Eindruck, dass die Versprechen der KI und ihr Schadenspotenzial gleichermaßen an Fahrt gewinnen.
Ein Trend von Abgängen?
Statt zu einem anderen Technologieunternehmen zu wechseln, schlägt Sharma einen unkonventionellen Weg ein. Er will ein Studium der Lyrik aufnehmen und das praktizieren, was er „mutiges Sprechen“ nennt. Sharma schrieb: „Ich möchte Raum schaffen, um die Strukturen beiseitezulassen, die mich in den vergangenen Jahren gehalten haben, und zu sehen, was in ihrer Abwesenheit entstehen könnte.“
Sharma ist mit seinem jüngsten Abschied nicht allein.
Wie Business Insider berichtete, haben auch andere Forschende, darunter Harsh Mehta und Behnam Neyshabur, Anthropic kürzlich verlassen, um „etwas Neues anzufangen“.
Dies geschieht zu einem Zeitpunkt, an dem das Unternehmen Berichten zufolge eine neue Finanzierungsrunde anstrebt, die das Unternehmen mit 350 Milliarden US-Dollar bewerten könnte, und aggressiv neue, leistungsfähigere Modelle wie Claude Opus 4.6.
auf den Markt bringt. Sharma beendete seinen Brief mit einem Gedicht von William Stafford, The Way It Is, über das Festhalten an einem persönlichen roten Faden im Wandel des Lebens. Offensichtlich folgt er seinem eigenen Faden: Er lässt eine florierende KI-Branche hinter sich, um sich von außen mit ihren größten Fragen auseinanderzusetzen.
Lesen Sie auch: Anthropic-CEO Dario Amodei warnte in Davos, dass der Verkauf von KI-Chips an China „wie Atomwaffen für Nordkorea“ sei.