Das Unternehmen für künstliche Intelligenz von Elon Musk, xAI, ist in die Kritik geraten, nachdem Google Hunderttausende öffentliche Unterhaltungen mit seinem Chatbot Grok indexiert hatte. Die Sichtbarkeit wurde durch Groks „Teilen“-Funktion ermöglicht, über die Nutzer einen eindeutigen Link erstellen können, um ein Transkript ihrer Chats zu versenden. Doch anstatt privat zu bleiben, wurden diese geteilten Unterhaltungen auch von Suchmaschinen wie Google, Bing und DuckDuckGo indexiert.
Forbes berichtete, dass allein Google mehr als 370.000 Grok-Unterhaltungen indexiert hatte. Die Transkripte enthielten harmlose Austausche wie Entwürfe für Tweets, aber auch äußerst sensibles Material wie medizinische Fragen, persönliche Angaben und Passwörter.
Beunruhigende Inhalte unter den durchgesickerten Chats
Neben alltäglichen Eingaben legten einige indexierte Unterhaltungen alarmierende Inhalte offen. Laut Forbes lieferte Grok detaillierte Anweisungen zur Herstellung von Fentanyl und Sprengstoffen und bot sogar einen Plan zur Ermordung von Elon Musk an.
Diese Ergebnisse tauchten auf, obwohl die erklärte Richtlinie von xAI die Förderung von Gewalt, Biowaffen und anderen illegalen Aktivitäten untersagt.
Einige Nutzer waren überrascht, als sie erfuhren, dass ihre geteilten Unterhaltungen öffentlich gemacht worden waren. Der britische Journalist Andrew Clifford, der Grok zum Verfassen von Tweets genutzt hatte, sagte gegenüber Forbes: „Ich wäre ein bisschen verärgert, aber es war nichts dabei, was nicht dort stehen sollte.“ Inzwischen ist er zur Nutzung von Google’s Gemini AI.
gewechselt. Andere, darunter auch KI-Forscher, äußerten Bedenken. Nathan Lambert vom Allen Institute for AI sagte, ihm sei nicht bewusst gewesen, dass das interne Teilen mit Kollegen die Chats ebenfalls durchsuchbar machen würde.
„Ich war überrascht, dass die mit meinem Team geteilten Grok-Chats automatisch bei Google indexiert wurden, obwohl es keinerlei Warnungen dazu gab“, sagte er gegenüber Forbes.
Nicht der erste Datenschutzskandal um einen KI-Chatbot
Dies ist nicht das erste Mal, dass Chatbot-Unterhaltungen entgegen den Erwartungen der Nutzer nach außen gelangt sind.
OpenAIs ChatGPT geriet kürzlich unter Beschuss, nachdem einige geteilte ChatGPT-Unterhaltungen von Google indexiert worden waren. Das Unternehmen nahm die Funktion schnell wieder zurück, bezeichnete sie als „kurzlebiges Experiment“ und räumte ein, dass sie Risiken einer unbeabsichtigten Offenlegung von Daten barg.
Auch Metas KI-Chatbot geriet Anfang dieses Jahres in die Kritik, als geteilte Chats in einem öffentlichen „Entdecken“-Feed erschienen.
Musk machte sich zuvor über OpenAIs Problem lustig und postete „Grok ftw“ [for the win, also: zum Sieg] auf X, als ChatGPT-Chats in der Suche auftauchten. Nun sieht sich sein eigenes KI-Start-up ähnlicher Kritik ausgesetzt.
Die Lehre für KI-Nutzer
KI-Nutzer sollten jede Interaktion mit einem Chatbot als potenziell öffentlichen Beitrag betrachten und niemals personenbezogene Daten teilen. Solange Unternehmen keine besseren Schutzmaßnahmen und klareren Warnungen in ihre KI-Tools integrieren, ist es am sichersten, davon auszugehen, dass alles, was man mit einem Chatbot teilt, eines Tages in einem Suchergebnis landen könnte.
Dies ist nicht das erste Mal, dass Grok für Kontroversen sorgt. Groks KI-Videotool geriet kürzlich massiv in die Kritik , weil es nicht einvernehmliche Deepfake-Clips von Prominenten erstellte.