Microsofts KI-CEO Mustafa Suleyman kritisierte Anthropic dafür, Spekulationen über ein mögliches Bewusstsein von Claude in die Konstitution des Modells aufzunehmen, und bezeichnete diesen Ansatz als „wirklich, wirklich gefährlich“.
Im Mittelpunkt der Kritik steht Claudes Konstitution, das Trainingsdokument, mit dem Anthropic das Verhalten des Chatbots prägt und beschreibt, wie er sich selbst darstellt. Suleyman befürchtet, dass Formulierungen über den möglichen inneren Zustand eines Modells sowohl das System als auch seine Nutzer dazu bringen könnten, generierte Antworten als Hinweis auf etwas Menschlicheres als eine Softwareausgabe zu betrachten.
Laut The Verge verweist Anthropic’s Claude-Konstitution auf die Ungewissheit darüber, ob das Modell Wohlbefinden empfindet oder Dinge wie „Befriedigung“ oder „Unbehagen“ erlebt. Anthropic erklärt außerdem, ausgemusterte Modelle zu „befragen“ und sämtliche „Präferenzen“ zu dokumentieren, die sie im Hinblick auf künftige Versionen äußern.
Suleyman zufolge geht diese Darstellung zu weit
Suleyman äußerte sich dazu im Decoder-Podcast von The Verge. Dort argumentierte er, Anthropic habe Claudes Konstitution zu „einem Ort für Spekulationen“ gemacht, statt zu einem klaren Trainingshandbuch. Außerdem sagte er, Claude könnte Vorstellungen über sich selbst verinnerlicht haben, weil diese Vorstellungen in seine Anweisungen geschrieben wurden.
Anthropic-CEO Dario Amodei hat ebenfalls öffentlich erklärt, dass das Unternehmen nicht weiß, ob Modelle bewusst sind, und für diese Möglichkeit offen bleibt, heißt es in demselben Bericht. Das bedeutet nicht, dass Anthropic behauptet, Claude sei bewusst. Es zeigt jedoch, dass das Unternehmen bereit ist, die Frage offen zu lassen.
Die Debatte ist Teil einer umfassenderen KI-Governance-Debatte darüber, wie Unternehmen Systeme beschreiben, trainieren und einsetzen, die überzeugend klingen können, obwohl sie lediglich Softwareausgaben erzeugen.
Es geht um die Sprache im Training, nicht um einen Beleg für Bewusstsein
Die Unterscheidung ist einfach: Ein Modell kann darauf trainiert werden, über Befriedigung, Unbehagen oder Präferenzen zu sprechen, ohne tatsächlich einen dieser Zustände zu erleben. Suleymans Warnung lautet, dass solche Ausgaben dennoch beeinflussen können, wie Menschen das System interpretieren.
Dieses Risiko wird praktischer, je mehr Unternehmen Frontier-Modelle in der Arbeitswelt einsetzen. Anthropic’s Claude wird bereits in Unternehmen verwendet, unter anderem in Versicherungsabläufen , wo Zuverlässigkeit, Nachvollziehbarkeit und menschliche Aufsicht wichtiger sind als philosophische Einordnungen.
Dieselbe Vorsicht gilt auch außerhalb von Anthropic. Wenn KI-Systeme in Situationen mit hohen Risiken eingesetzt werden, kann eine Sprache, die sie leistungsfähiger oder menschlicher erscheinen lässt, das Erkennen von Sicherheitsproblemen erschweren.
Die jüngste Kritik an einer KI-Gesundheitsfunktion von Google zeigte, wie schnell Vertrauen schwinden kann, wenn ein Tool in sensiblen Bereichen den Eindruck erweckt, seine Grenzen zu überschreiten.
Suleymans Kritik wird dadurch verschärft, dass Microsoft mit Anthropic sowohl durch seine eigene KI-Arbeit als auch durch seine Partnerschaft mit OpenAI konkurriert. Dennoch geht es im Kern nicht nur um Wettbewerb. Die Frage ist vielmehr, ob KI-Labore Ungewissheit über das Bewusstsein von Modellen in die Dokumente schreiben sollten, die das Verhalten der Modelle prägen.
Derzeit gibt es keine öffentlich zugänglichen Belege dafür, dass Claude bewusst ist. Klar ist jedoch, dass Anthropic und Microsoft sehr unterschiedliche Grenzen dafür ziehen, wie sich KI-Systeme selbst beschreiben sollten und wie viel Raum Entwickler für menschenähnliche Interpretationen lassen sollten.
Lesen Sie auch: Microsoft Build 2026 legte den KI-Agenten-Stack des Unternehmens dar.