Alibaba verbietet Claude Code, nachdem versteckte Prüfungen Datenschutzbedenken auslösen

Alibaba stellt Claude Code für seine Entwickler ein, nachdem eine Entdeckung durch Reverse Engineering Fragen dazu aufgeworfen hat, was Anthropic’s KI-Coding-Assistent auf lokalen Rechnern überprüft.

Ab dem 10. Juli dürfen Alibaba-Entwickler Claude Code laut CNBC nicht mehr verwenden. Die Entscheidung folgt auf einen Reddit-Beitrag, in dem undokumentierte Logik in dem Tool identifiziert wurde, die offenbar nach mit China verknüpften Signalen suchte, darunter Zeitzonen, Proxy-URLs und mögliche Verbindungen zu heimischen KI-Laboren.

Die Entdeckung kommt für beide Unternehmen zu einem heiklen Zeitpunkt – wenige Wochen, nachdem Anthropic Alibaba vorgeworfen hat, die Fähigkeiten von Claude extrahieren zu wollen. Nun wirft der Streit auch eine grundsätzliche Frage für Unternehmen auf: Wie viel Einblick sollten KI-Coding-Tools in die Umgebung eines Entwicklers haben?

Was ist passiert?

Nach Angaben des Entwicklers hinter dem Reddit-Beitrag war die versteckte Funktion vorhanden, seit Anthropic Claude Code version 2.1.91 am 2. April veröffentlicht hatte. Die Funktion wurde zufällig entdeckt, als der Entwickler versuchte, eine von Anthropic aus Claude Code entfernte Fähigkeit durch Reverse Engineering des Tools wiederherzustellen.

Während dieses Vorgangs bemerkte der Entwickler Code, der offenbar die lokalen Umgebungen der Nutzer untersuchte, um eine Nutzung mit China-Bezug zu erkennen. In dem Beitrag schrieb der Entwickler: „Beim Reverse Engineering von Claude Code, um diese Änderung rückgängig zu machen, habe ich etwas äußerst Verdächtiges gefunden.“

Die versteckte Logik prüft, ob die Zeitzone des Systems mit einer der Zeitzonen Chinas übereinstimmt und ob der Nutzer eine mit einer chinesischen Domain verknüpfte Proxy-URL verwendet. Auf Grundlage dieser Ergebnisse verändert die Software unauffällig den System-Prompt, indem sie das Datumsformat ändert und gleichzeitig den Apostroph in „Today’s date is“ durch verschiedene Unicode-Zeichen ersetzt, um die erkannte Umgebung zu kodieren. 

Eine Funktion: unterschiedliche Perspektiven

Obwohl die Funktion bereits seit Monaten existierte, kam die Nachricht für beide Unternehmen zu einem interessanten Zeitpunkt. Erst wenige Wochen zuvor hatte Anthropic Alibaba vorgeworfen, die Fähigkeiten von Claude zu extrahieren. Obwohl ein Anthropic-Ingenieur behauptet, die Funktion sei „ein Experiment“ zur Verhinderung von Kontomissbrauch, muss sich das Unternehmen möglicherweise mit den durch den Vorfall ausgelösten Datenschutzbedenken auseinandersetzen.

Als Reaktion auf einen X-Beitrag zu der Entdeckung bezeichnete ein Anthropic-Mitarbeiter die Funktion als Maßnahme gegen Missbrauch, die entfernt werden soll. Das Unternehmen merkte außerdem ausdrücklich an, dass Claude-Modelle nicht für konfrontative Nutzer gedacht sind, was erklärt, warum sich die Logik gegen China richtete.

Beide Unternehmen lehnten eine Stellungnahme zu den Fragen in dieser Angelegenheit ab.

Mögliche Auswirkungen auf den Datenschutz

Anthropic hat einen großen Teil von Claudes Ruf auf der Entwicklung sicherer und vertrauenswürdiger KI-Systeme aufgebaut. Die Entdeckung undokumentierter Umgebungsprüfungen in Claude Code wirft jedoch neue Fragen auf, wo das Unternehmen die Grenze zwischen dem Schutz seiner Modelle und der Wahrung der Erwartungen der Nutzer an Datenschutz und Transparenz zieht.

Die Erkenntnisse folgen außerdem auf einen früheren Vorfall, bei dem festgestellt wurde, dass das Tool ohne vorherige Zustimmung der Nutzer automatisch eine Native-Messaging-Manifestdatei in mehreren Chromium-basierten Browsern installiert hatte.

Für Fachleute und Unternehmen, die Claude für sensible Aufgaben einsetzen, unterstreichen beide Vorfälle eine verbreitete Sorge. Agentische KI-Coding-Assistenten haben weitreichenden Zugriff auf lokale Systeme. Daher ist Transparenz darüber, was sie untersuchen, verändern oder sammeln, ebenso wichtig wie der von ihnen generierte Code. 

Alibabas Wechsel zu einer eigenen KI-Coding-Plattform könnte zwar ebenfalls auf Anthropics jüngste Vorwürfe der KI-Destillation zurückzuführen sein, doch die Entscheidung könnte einen umfassenderen Wandel ankündigen, bei dem große Unternehmen zunehmend interne KI-Tools gegenüber Angeboten von Drittanbietern bevorzugen.

Weiterführende Lektüre: Mehr über Anthropics jüngste KI-Strategie erfahren Sie in unserer Berichterstattung darüber, wie Claude Sonnet 5 KI-Agenten erschwinglicher machen will – ohne Abstriche bei der Leistung in Unternehmen.