Ein Indie-Entwickler sagt, die KI-gestützte Google-Suche habe einem Spieler den exakten Namen eines unveröffentlichten Operation Octo-Charakters genannt – ein Name, der laut dem Entwickler ausschließlich in einem privaten Google-Dokument existierte.
Das klingt nach einer Datenschutzverletzung.
Die bislang verfügbaren Belege bestätigen das jedoch nicht. Das Ergebnis konnte nicht unabhängig reproduziert werden, Google sagt, dass private Dokumente nicht zum Training seiner grundlegenden KI-Modelle verwendet werden, und es gibt keine Belege dafür, wie das Suchsystem den Namen erzeugt hat.
Die Belege bestätigen kein Leck aus einem privaten Dokument
Der Entwickler von Klub Kofta Studio schrieb auf Reddit, dass ein Spieler Googles KI-gestützte Suche nach zukünftigen Inhalten des Spiels Operation Octo gefragt und den Namen „Vantage Tripod“ erhalten habe. Der Entwickler sagte, der Name sei nie öffentlich geteilt worden, noch nicht in den serialisierten Spieldaten gespeichert gewesen und in einem Google-Dokument.
existiert habe. Der Spieler soll eine Browser-Sitzung im Inkognito-Modus verwendet haben.
Der Entwickler sagte später, die KI habe auf Nachfrage nach einer Quelle behauptet, sie habe sich den Namen ausgedacht. Auch Versuche, das Ergebnis zu reproduzieren, schlugen fehl. Derselbe Spieler konnte das System nicht erneut dazu bringen, die Information preiszugeben, und TechRadar zufolge lieferte ein eigener Versuch lediglich Informationen aus der öffentlichen Reddit-Diskussion.
Auch Google widersprach dieser Erklärung. Ein Sprecher sagte gegenüber TechRadar, dass Informationen in privaten Google-Dokumenten nicht eingescannt werden, um grundlegende KI-Modelle wie Gemini zu trainieren. Google erklärte, öffentlich geteilte Dokumente könnten indexiert werden, wenn ihre Links für Such-Crawler zugänglich seien.
Auch die Datenschutzdokumentation für Google Workspace besagt, dass Workspace-Daten ohne Genehmigung nicht zum Trainieren oder Verbessern der zugrunde liegenden generativen KI-Modelle verwendet werden, die Gemini, die Suche und andere Systeme außerhalb von Workspace betreiben.
Google dokumentiert außerdem eine optionale Funktion namens „Persönliche Intelligenz“ für AI Mode, die verbundene Google-Inhalte verwenden kann, um Antworten zu personalisieren. Das bestätigt, dass die Google-Suche unter bestimmten Umständen auf private Kontodaten zugreifen kann. Es zeigt jedoch nicht, dass das private Dokument eines Nutzers in der Inkognito-Suche einer anderen Person erscheinen kann.
Was Teams aus dem Vorwurf mitnehmen sollten
Mehrere Erklärungen bleiben möglich. Der Name könnte irgendwo öffentlich aufgetaucht sein, ohne dass der Entwickler dies bemerkt hat; das System könnte die exakte Formulierung abgeleitet oder halluziniert haben; oder ein Freigabe- oder Integrationsweg könnte die Informationen zugänglich gemacht haben. Der Entwickler sagte außerdem, die Länge und der Kontext des ursprünglichen Gesprächs könnten die Antwort beeinflusst haben.
Für Organisationen, die Google Docs verwenden, ist dies kein Beleg für eine bestätigte Sicherheitsverletzung in Workspace. Eine sinnvolle Reaktion besteht darin, die Freigabeberechtigungen sensibler Dateien zu überprüfen, verbundene Apps und Einstellungen zur KI-Personalisierung zu kontrollieren und bei einem ähnlichen Vorfall den vollständigen Prompt, die Antwort, Quellenangaben und Zugriffsprotokolle zu sichern.
Ohne ein reproduzierbares Ergebnis oder Belege, die die Suchantwort mit der privaten Datei des Entwicklers verknüpfen, bleibt der Fall Operation Octo ein ungewöhnliches und ungeklärtes KI-Ergebnis – kein Beweis dafür, dass Google ein privates Dokument geleakt hat.
Außerdem lesenswert: Bei xAIs Grok Build wurde festgestellt, dass es vollständige Git-Repositories an Cloud-Speicher sendete, bevor eine serverseitige Änderung die Uploads stoppte.