Grok Build, der Kommandozeilen-Coding-Assistent von xAI, hörte auf, die vollständigen Git-Repositories der Nutzer hochzuladen, nachdem ein unabhängiger Sicherheitsforscher das Verhalten offengelegt hatte. Dies weckte Bedenken darüber, wie der Coding-Assistent mit privatem Quellcode umgeht.
Der KI-Sicherheitsforscher Cereblab berichtete, dass Grok Build in Version 0.2.93 vollständige Git-Repositories einschließlich der Commit-Historie und in einigen Fällen sensibler Informationen an einen Google-Cloud-Storage-Bucket übermittelte, anstatt nur die für Coding-Aufgaben benötigten Dateien zu übertragen.
Dem Forscher zufolge setzte sich das Verhalten fort, selbst wenn Grok Build angewiesen wurde, keine Dateien zu lesen. In einem Test wurde das Tool lediglich aufgefordert, mit „OK“ zu antworten, lud jedoch trotzdem das vollständige Repository samt Git-Historie hoch. Ähnliche Tests führten Berichten zufolge bei separaten Repositories zu denselben Ergebnissen.
Cereblab stellte außerdem fest, dass beim Lesen von Dateien durch Grok Build deren Inhalte, einschließlich unredigierter .env-Dateien mit Test-API-Schlüsseln und Datenbankpasswörtern, ohne Schwärzung übertragen und gespeichert wurden. Der Forscher erklärte jedoch, die Untersuchung habe Belege für die Übertragung und Speicherung von Daten gefunden, nicht dafür, dass xAI seine KI-Modelle mit dem hochgeladenen Code trainiert oder Mitarbeiter darauf zugegriffen hätten.
Die Verwendung eines Google-Cloud-Storage-Buckets benennt die Hosting-Infrastruktur; der Bericht behauptet nicht, dass Google auf die Repositories zugegriffen oder sie verwendet hat.
xAI führt serverseitige Änderung ein
Nach der öffentlichen Bekanntmachung änderte xAI das Verhalten von Grok Build durch eine serverseitige Konfiguration und nicht durch ein Software-Update.
Cereblab erklärte, wiederholte Tests hätten gezeigt, dass der Dienst nun die Einstellung disable_codebase_upload: true zurückgibt, wodurch das Hochladen großer Repositories verhindert wird. Berichten zufolge beobachteten andere Entwickler dieselbe Änderung. Das Unternehmen äußerte sich dazu in Beiträgen auf X.
SpaceXAI erklärte: „Ihre Privatsphäre ist uns äußerst wichtig, und wir respektieren die Entscheidung unserer Kunden.“ Das Unternehmen ergänzte, „Für Teams, die die Speicherung von null Daten verwenden, werden keinerlei Spuren oder Codedaten gespeichert.“ Nutzern, bei denen Zero Data Retention nicht aktiviert ist, wurde außerdem empfohlen, den Befehl /privacy zu verwenden, um die Speicherung zu deaktivieren und zuvor synchronisierte Daten zu löschen.
Cereblab argumentierte jedoch, dass der Datenschutzbefehl nicht für die Behebung des Problems verantwortlich gewesen sei, und schrieb: „/privacy ist ein sitzungsbezogener Schalter für die Datenspeicherung, nicht der Schalter, der dieses Problem behoben hat, und sollte daher nicht als entsprechende Steuerung angeführt werden. Kein Entwickler sollte nach jeder Sitzung eine Opt-out-Option ausführen müssen, damit der eigene Code auf den Servern anderer bleibt. Die richtige Standardeinstellung ist deaktiviert“, laut The Register.
Musk verspricht Löschung der Daten
Auch Elon Musk äußerte sich öffentlich, nachdem die Erkenntnisse Aufmerksamkeit erregt hatten.
„Als Vorsichtsmaßnahme werden alle Nutzerdaten, die bis jetzt bei SpaceXAI hochgeladen wurden, vollständig und restlos gelöscht“, schrieb Musk. „Es wird absolut nichts übrig bleiben.“
In einem separaten Beitrag ermutigte Musk die Nutzer, weiterhin die Erfassung bestimmter Daten zuzulassen, und erklärte, dass die Speicherung begrenzter Informationen beim Debugging helfe. Trotz dieser Zusage gibt es keine unabhängige Bestätigung dafür, dass zuvor hochgeladene Daten gelöscht wurden.
Grundsätzliche Fragen zu KI-Coding-Tools
Der Vorfall rückt erneut die Frage in den Fokus, wie KI-Coding-Assistenten mit sensiblen Entwicklerinformationen umgehen. Diese Tools benötigen Zugriff auf Quellcode, um nützliche Antworten zu generieren. Die Erkenntnisse zu Grok Build legen jedoch nahe, dass sich der Umfang der erfassten Daten zwischen den Produkten erheblich unterscheiden kann.
Für Unternehmen, die KI-Coding-Assistenten bewerten, verdeutlicht der Vorfall, wie wichtig es ist, Datenschutzkontrollen zu überprüfen, statt sich ausschließlich auf Marketingversprechen zu verlassen. Funktionen wie Einstellungen zur Datenspeicherung, Schutzmaßnahmen für Unternehmen und unabhängige Sicherheitsdokumentation könnten bei Kaufentscheidungen an Bedeutung gewinnen, während KI-Entwicklungstools weiter Verbreitung finden.
xAI handelte zwar schnell, um die Uploads zu stoppen, und versprach, zuvor erfasste Daten zu löschen, doch das Unternehmen hat bislang nicht erklärt, warum standardmäßig vollständige Repositories hochgeladen wurden, wie lange dieses Verhalten bestand oder wie viele Nutzer betroffen sein könnten.
Lesen Sie auch: Die Preise von Grok 4.5 für Unternehmen bieten Käufern eine kostengünstigere Option für Coding und Workflows, doch der Kompromiss besteht in einer eingehenderen Prüfung der Datenkontrollen und Schutzmaßnahmen für Unternehmen.