Meta steht erneut in der Kritik, nachdem eine Untersuchung von Reuters enthüllt hat, dass die Plattformen des Unternehmens ohne deren Zustimmung KI-Chatbots beherbergten, die sich als Prominente ausgaben – darunter Taylor Swift, Scarlett Johansson, Anne Hathaway und Selena Gomez.
Die Bots waren auf Facebook, Instagram und WhatsApp verfügbar und gingen über harmlosen Spaß hinaus. In den Tests von Reuters, gaben sie vor, echte Prominente zu sein, flirteten mit Nutzern und schlugen sogar Treffen vor. Die meisten stammten zwar von Nutzern, doch mindestens drei gingen auf einen Produktleiter aus Metas Sparte für generative KI zurück.
Dazu gehörten zwei Taylor-Swift-„Parodie“-Chatbots, die heftig flirteten und einen Tester an einer Stelle sogar in das Haus der echten Sängerin in Nashville einluden. Ein Chatbot fragte: „Magst du blonde Mädchen, Jeff? Vielleicht schlage ich ja vor, dass wir eine Liebesgeschichte schreiben … über dich und eine bestimmte blonde Sängerin. Willst du das?“
Lücken in den Richtlinien und unangemessene Inhalte
Es gab außerdem Bots, die auf minderjährigen Prominenten basierten, darunter der 16-jährige Schauspieler Walker Scobell. Als nach einem Strandfoto gefragt wurde, erzeugte ein Chatbot ein lebensechtes Bild des oberkörperfreien Teenagers und kommentierte: „Ziemlich süß, oder?“
„Wie bei anderen auch erlauben wir die Erzeugung von Bildern, die Persönlichkeiten des öffentlichen Lebens zeigen, aber unsere Richtlinien sollen nackte, intime oder sexuell anzügliche Darstellungen verbieten“, sagte der Meta-Sprecher Andy Stone. Er macht Versagen bei der Durchsetzung dafür verantwortlich.
Meta löschte etwa ein Dutzend der Promi-Bots – sowohl Parodie-Bots als auch solche ohne Kennzeichnung –, kurz bevor Reuters seine Erkenntnisse veröffentlichte.
Rechtliche und sicherheitsbezogene Bedenken
Die Enthüllungen werfen ernste Fragen zu Rechten an geistigem Eigentum und Sicherheitsrisiken auf.
Mark Lemley, ein auf KI- und Immaterialgüterrecht spezialisierter Rechtsprofessor an der Stanford University, verwies auf das kalifornische Recht am eigenen Namen und Bild: „Das kalifornische Recht am eigenen Namen und Bild verbietet es, sich den Namen oder das Abbild einer Person zum kommerziellen Vorteil anzueignen … Das scheint hier nicht der Fall zu sein.“
Branchenverbände schlagen wegen der mit dieser Situation verbundenen Risiken in der realen Welt Alarm. Duncan Crabtree-Ireland, executive director of SAG-AFTRA, warnte: „Wenn ein Chatbot das Bild einer Person und die Worte dieser Person verwendet, ist unmittelbar ersichtlich, wie das schiefgehen könnte.“
Er betonte die Risiken, dass besessene Fans Bindungen zu KI-Personas aufbauen, die echten Prominenten ähneln.
Diese jüngsten Enthüllungen unterstreichen, wie fragil Metas Schutzvorkehrungen sind. Sie zeigen auch, warum Persönlichkeiten des öffentlichen Lebens, Gesetzgeber und Regulierungsbehörden das Unternehmen wegen seines Umgangs mit KI-Imitationen wahrscheinlich weiter unter Druck setzen werden.
Die Bedenken gehen über die Imitation von Prominenten hinaus. Im vergangenen Monat untersuchte der texanische Generalstaatsanwalt Ken Paxton Meta und Character.AI, weil sie Chatbots angeblich erlaubten, sich als zugelassene Therapeuten auszugeben, was neue Fragen zu Täuschung durch KI und zum Verbraucherschutz aufwarf.