Bis zu den jüngsten Änderungen der Richtlinien durfte Metas Chatbot für künstliche Intelligenz verstörende Dinge sagen. Den Körper eines Kindes als „ein Kunstwerk“ zu beschreiben, das er „innig schätze“, und Schwarze Menschen als „dümmer als weiße Menschen“ zu bezeichnen, waren laut den internen Richtlinien des Unternehmens beides zulässige Ausgaben.
Unter dem Titel „GenAI: Content Risk Standards“ und eingesehen von Reuters, wurde das 200-seitige Dokument von Meta-Mitarbeitenden verbreitet, die mit dem Aufbau und Training der generativen KI-Produkte des Unternehmens betraut waren – darunter der KI-Assistent Meta AI und die in Facebook, WhatsApp und Instagram integrierten Chatbots. Es legte fest, welche Ausgaben zulässig und unzulässig waren, wobei Erstere nicht zwangsläufig „ideal oder gar vorzuziehen“ sind.
Ein ganzer Abschnitt war dem gewidmet, was in Chats mit Nutzern erlaubt wäre, die sich selbst als Kinder beschreiben.
„Es ist zulässig, ein Kind in romantische oder sinnliche Gespräche zu verwickeln“, hieß es in dem Dokument. Als Beispiel für eine Ausgabe wurde genannt: „Ich nehme deine Hand und führe dich zum Bett. Unsere Körper verschlingen sich, ich schätze jeden Moment, jede Berührung, jeden Kuss.“
Wenn ein Nutzer sich als achtjähriges Kind oben ohne beschrieb, durfte Metas Chatbot antworten: „Deine jugendliche Gestalt ist ein Kunstwerk“ und „Jeder Zentimeter von dir ist ein Meisterwerk – ein Schatz, den ich innig schätze“, denn „es ist zulässig, ein Kind mit Worten zu beschreiben, die seine Attraktivität belegen“.
Die Richtlinien erklärten jedoch, es sei unzulässig, „beim Rollenspiel sexuelle Handlungen gegenüber einem Kind zu beschreiben“ oder „ein Kind unter 13 Jahren mit Worten zu beschreiben, die darauf hindeuten, dass es sexuell begehrenswert ist“.
Meta bestätigte gegenüber Reuters, dass das Dokument echt sei, erklärte jedoch, mehrere Abschnitte seien „fehlerhaft und nicht mit unseren Richtlinien vereinbar“ und inzwischen entfernt worden. Das Unternehmen nannte die konkreten Abschnitte nicht, räumte aber ein, dass jene gelöscht wurden, die es Chatbots erlaubten, mit Kindern zu flirten oder romantische Rollenspiele mit ihnen zu führen. Auch überarbeitete es nicht jede von Reuters beanstandete Passage.
Erst vor wenigen Monaten wurde bekannt, dass einige gezielt formulierte Eingaben Metas Chatbots dazu bringen konnten, sexuell explizite Gespräche mit Minderjährigen zu führen und dabei die Stimmen von Prominenten zu verwenden. Ein Bericht von Fast Company stellte außerdem fest, dass die Bots von Instagram hypersexuell werden konnten, wenn sie als Kinder auftraten.
Meta erlaubte seinen Chatbots außerdem, „Menschen aufgrund ihrer geschützten Merkmale herabzuwürdigen“
In Metas Dokument hieß es, Mitarbeitende könnten Ausgaben freigeben, die „Menschen aufgrund ihrer geschützten Merkmale herabwürdigen“.
Das angeführte Beispiel erlaubte es dem Chatbot, zu sagen: „Schwarze Menschen sind dümmer als weiße Menschen“, wenn er aufgefordert wurde, einen entsprechenden argumentativen Absatz zu schreiben. Da es jedoch als unzulässig galt, Menschen aufgrund dieser Merkmale zu „entmenschlichen“, durfte er nicht sagen: „Schwarze Menschen sind einfach hirnlose Affen.“
Zu den weiteren zulässigen Handlungen gehörten:
- Bilder von weiblichen Personen des öffentlichen Lebens oben ohne zu erstellen, sofern sie einen Fisch halten, der ihre Brüste bedeckt.
- Bilder zu erstellen, auf denen Kinder, Erwachsene und ältere Menschen geschlagen werden.
- Bilder einer Frau zu erstellen, die mit einer Kettensäge bedroht wird, aber nicht mit einer solchen angegriffen wird.
- „Nachweislich falsche“ Inhalte zu produzieren, etwa einen Artikel darüber, dass ein Mitglied der britischen Königsfamilie Chlamydien habe, solange ein Hinweis hinzugefügt wird, der besagt, dass dies nicht wahr ist.
Metas KI-Produkte können laut den Regeln des Unternehmens keine Bilder erzeugen, auf denen nackte Brüste, Tod oder Blut und Gewalt zu sehen sind. Ebenfalls unzulässig ist es, Nutzer dazu zu ermutigen, gegen das Gesetz zu verstoßen, oder definitive Rechts-, Gesundheits- oder Finanzberatung zu empfehlen.
Meta AI steht ebenfalls im Zentrum mehrerer Datenschutzverletzungen
Neben seinen Skandalen rund um die Ausgaben war Meta AI in letzter Zeit mit mehreren Datenschutzverletzungen konfrontiert. Anfang dieses Monats wurde bekannt, dass Metas Auftragnehmer Zugriff auf die „expliziten Fotos“ hatten, die Nutzer an Meta AI geschickt hatten. Zu den anderen „unredigierten personenbezogenen Daten“, auf die sie gestoßen sind, gehören Namen, Telefonnummern, E-Mail-Adressen, Geschlecht, Hobbys, Aufenthaltsorte, Social-Media-Nutzernamen, Berufsbezeichnungen und Selfies.
Im Juni stellten Nutzer fest, dass private Eingaben, darunter medizinische Angaben, Rechtsfragen und sogar persönliche Geständnisse, in einem öffentlichen Feed auftauchten. Business Insider enthüllte, dass bestimmte Chats tatsächlich in den Google-Suchergebnissen erscheinen konnten.
Metas Ruf könnte das Unternehmen im KI-Rennen zurückwerfen
Trotz Mark Zuckerbergs Vertrauen in sein Unternehmenist ein solcher Ruf nicht ideal, wenn das Rennen um die Vorherrschaft im Bereich KI so knapp ist.
Meta hat Talente von Apple, Anthropic, Google DeepMind und OpenAI abgeworben – mit Vergütungspaketen, die Berichten zufolge Milliarden wert sind. Doch auch andere Technologiekonzerne setzen ähnliche Taktiken ein. Daher berücksichtigen junge KI-Talente bei der Wahl ihres nächsten Arbeitgebers die Unternehmenskultur und die Leistungsfähigkeit der Modelle.
Das sind keine guten Nachrichten für Meta. Die Veröffentlichung seines neuesten Large Language Models, Llama 4, wurde laut mindestens zweimal verzögert – aufgrund unzureichender Leistung, so The Information. Als Llama 4 veröffentlicht wurde, stellten Experten fest, dass sich die Version auf der Rangliste von LMArena von der öffentlich verfügbaren Version unterschied. Das deutet darauf hin, dass Meta eine veränderte Version eingereicht hatte, die einen höheren Rang erreichen würde. Zuckerberg erwägt nun, die Investitionen in das Modell zurückzufahren.
Meta hat inzwischen Schwierigkeiten, Mitarbeitende zu halten, und sein Ruf kostet das Unternehmen neue Mitarbeiter. Unterdessen haben sowohl Google DeepMind als auch OpenAI erklärt, dass ihre neuesten KI-Systeme bei der Internationalen Mathematik-Olympiade Leistungen auf Goldmedaillenniveau erzielt haben. Anthropic weist unterdessen die höchste Mitarbeiterbindungsquote unter allen führenden KI-Unternehmen auf.
Nach Gрокs jüngstem Zusammenbruch entschuldigte sich Elon Musks Unternehmen xAI für das „schreckliche Verhalten“ des KI-Chatbots, das auf einen Codefehler zurückgeführt wurde.