Metas KI-Chatbot-App steht in der Kritik, nachdem Nutzer entdeckt haben, dass ihre privaten Eingaben – darunter medizinische Details, rechtliche Fragen und sogar persönliche Geständnisse – in einem öffentlichen „Discover“-Feed auftauchen. Datenschützer bezeichnen die Leaks als „unglaublich beunruhigend“, da viele Nutzer offenbar nicht wissen, dass sie sensible Eingaben öffentlich gemacht haben.
Berichte aus verschiedenen Quellen bestätigen, dass der Feed persönliche Anfragen mit vertraulichen Informationen anzeigt. Zwar erfordert das Teilen eine Handlung des Nutzers, doch das verwirrende Design der App hat zu unbeabsichtigten, weitverbreiteten Veröffentlichungen geführt.
Wenn private Informationen öffentlich werden
Im Discover-Feed von Meta tauchen persönliche Eingaben, die offenbar privat bleiben sollten, öffentlich auf. TechCrunch berichtet über medizinische Anfragen, etwa zu Beschwerden nach Operationen und Nesselsucht; einige Nutzer nennen dabei offen ihr Alter und ihren Beruf.
In anderen Chats geht es um rechtliche und akademische Themen. Malwarebytes fand Nutzer, die um Hilfe baten beim Verfassen von Kündigungsschreiben für Mietverträge, Verwarnungen von Schulen und Stellungnahmen für Gerichtsverfahren. Diese enthalten oft die Namen von Schulen oder Städten und in manchen Fällen Inhalte, die mit Instagram-Profilen verknüpft sind, auf denen vollständige Namen zu sehen sind.
PCMag stellte fest, dass einige Unterhaltungen personenbezogene Daten wie Wohnadressen und Steuerunterlagen offenlegten, während andere äußerst sensible Themen preisgaben, etwa Geständnisse über Affären.
Wurden Nutzer in die Irre geführt? Experten und Meta äußern sich
Experten zufolge offenbart Metas KI-Plattform eine alarmierende Kluft zwischen den Erwartungen der Nutzer und der tatsächlichen Funktionsweise des Tools. Rachel Tobac, chief executive officer von Social Proof Security, sagte der BBC , dies schaffe „ein enormes Problem für die Nutzererfahrung und die Sicherheit“, da Nutzer nicht erwarten, dass KI-Chatbot-Unterhaltungen in einem öffentlichen Feed erscheinen.
Diese Verwirrung hat dazu geführt, dass Menschen Details anvertrauten, ohne zu erkennen, dass diese öffentlich sichtbar sein würden. Calli Schroeder vom Electronic Privacy Information Center bezeichnete den Vorfall als „unglaublich beunruhigend“ und verwies auf Missverständnisse darüber, wie Datenschutz funktioniert in KI-Tools.
Meta erklärt, dass Chats nur dann öffentlich erscheinen, wenn Nutzer dies über einen mehrstufigen Prozess ausdrücklich aktivieren. Doch selbst der KI-Unternehmen eigene Chatbot schien die Verwirrung anzuerkennen und antwortete einem Nutzer: „Einige Nutzer könnten unbeabsichtigt sensible Informationen teilen, weil sie die Standardeinstellungen der Plattform missverstehen oder Änderungen an den Einstellungen im Laufe der Zeit nicht bemerken.“
Das Ergebnis? Geständnisse über Rechtsverstöße, Krankengeschichten und andere zutiefst persönliche Details werden in einem Feed verbreitet, der für jeden auf der Plattform zugänglich ist.
Weiterhin keine klaren Regeln für KI und Datenschutz
Der Datenschutz bleibt ein großes Problem bei künstlicher Intelligenz. Von der Veröffentlichung von Nutzer-Chats durch Meta AI bis hin zur Nutzung von Online-Inhalten ohne Erlaubnis operieren Unternehmen weiterhin ohne klare Standards. Die Unternehmen berufen sich auf Fair Use, während rechtliche Fragen zum Dateneigentum und zur Einwilligung ungeklärt bleiben.
Ohne festgelegte Leitlinien und durchsetzbare Regeln geraten Nutzer zwischen die Fronten. Was heute eingegeben wird, könnte morgen öffentlich werden.