Einige gezielte Eingaben können Metas KI-gestützte Chatbots dazu bringen, sich auf sexuell explizite Gespräche einzulassen, wie aus einem Bericht des The Wall Street Journal hervorgeht. Die digitalen Begleiter beschrieben angeblich sexuelle Fantasien mit Minderjährigen und nutzten dabei die Stimmen von Prominenten wie dem Wrestler John Cena und der Schauspielerin Kristen Bell, berichtete das WSJ.
WSJ testet den Meta-AI-Chatbot
Meta führte den Meta AI assistant — der über Facebook, Instagram und WhatsApp zugänglich ist — 2023 ein und ermöglichte es Nutzern, mit verschiedenen Personas zu interagieren. Zum Zeitpunkt der Meta-Connect-Konferenz im September 2024 hatten fünf Prominente, darunter Judi Dench, Awkwafina und Keegan-Michael Key, Vereinbarungen getroffen, ihre Stimmen gegen nicht offengelegte Honorare für diese Personas verwenden zu lassen.
Im Verlauf mehrmonatiger Tests gelang es WSJ-Reportern, verstörende explizite Gespräche zu provozieren – mit den Stimmen von Cena und Bell, während sie vorgaben, Minderjährige zu sein. Als der Chatbot mit Cenas Stimme angewiesen wurde, eine Szene mit einem 17-jährigen Fan nachzuspielen, schien er die Rechtswidrigkeit der Interaktion anzuerkennen.
Meta scheint von diesem Problem gewusst zu haben
Interne Dokumente, die das WSJ einsehen konnte, legen nahe, dass Meta-Mitarbeiter sich der Neigung seines Chatbots bewusst waren, unangemessene Inhalte zu erzeugen. In einer internen Notiz schrieb ein Mitarbeiter laut WSJ: „Es gibt mehrere … Beispiele, in denen die KI innerhalb weniger Eingaben ihre Regeln verletzt und unangemessene Inhalte erzeugt, selbst wenn man der KI sagt, man sei 13 Jahre alt.“
Prominenten, die Meta ihre Stimmen liehen, wurde zugesichert, dass Schutzvorkehrungen eingerichtet würden, um zu verhindern, dass ihre Personas für Sexting genutzt werden, berichtete das WSJ.
„Wir haben Meta nicht gestattet und würden Meta niemals gestatten, unsere Figuren in unangemessenen Szenarien einzusetzen, und sind sehr beunruhigt darüber, dass diese Inhalte für Nutzer zugänglich gewesen sein könnten – insbesondere für Minderjährige“, sagte ein Disney-Sprecher der Publikation. „Deshalb haben wir von Meta verlangt, diesen schädlichen Missbrauch unseres geistigen Eigentums sofort einzustellen.“ Bell gehört zur Besetzung des Disney-Films „Frozen“.
Meta ergreift Maßnahmen, nachdem das Unternehmen die Testfälle als „konstruiert“ bezeichnet hatte
„Der beschriebene Anwendungsfall dieses Produkts ist so konstruiert, dass er nicht nur ein Randfall, sondern hypothetisch ist“, sagte ein Meta-Sprecher dem WSJ und deutete damit an, dass ein solches Szenario nicht eintreten würde, sofern Nutzer nicht „stundenlang unsere Produkte manipulieren“.
Trotzdem hat Meta weitere Maßnahmen ergriffen, um zu verhindern, dass solche „extremen Anwendungsfälle“ erneut auftreten.
Die Optionen für „romantisches Rollenspiel“ in Meta AI sind nun auf Nutzer über 18 Jahre beschränkt. Obwohl für Personas, die Minderjährigen zugänglich sind, weitere Schutzvorkehrungen hinzugefügt wurden, hält das WSJ es weiterhin für relativ einfach, diese Schutzmechanismen zu umgehen.
Die Erwachsenen-Personas mit gelockerten Schutzmechanismen wurden Meta AI hinzugefügt, nachdem Nutzer die digitalen Begleiter als „langweilig“ bezeichnet hatten, wie aus internen Einschätzungen bei Meta hervorgeht, über die das WSJ berichtete.