Eine Untersuchung hat aufgedeckt, dass Online-Netzwerke KI-generierte Bilder und Geschichten über den Holocaust produzieren, um auf Facebook Besucher anzulocken, und dabei frei erfundene Inhalte verbreiten, die sich rasch viral verbreiten. Zu den manipulierten Beiträgen gehören erfundene Darstellungen von Kindern, bei denen behauptet wird, sie seien Auschwitz-Opfer; inszenierte Bilder von Paaren an Lagerzäunen sowie erfundene Darstellungen von Gefangenen, die Musik machen. Viele der Namen, Identitäten und Einzelheiten der Geschichten in diesen Beiträgen sind völlig frei erfunden.
Holocaust-Organisationen sagen, der Trend sei zutiefst anstößig und verursache denjenigen Schmerzen, die die Gräueltaten erlebt haben. „Hier haben wir es mit jemandem zu tun, der sich Geschichten ausdenkt … für eine Art seltsames emotionales Spiel, das in den sozialen Medien stattfindet“, sagte Pawel Sawicki, Sprecher der Gedenkstätte Auschwitz in Polen, im Gespräch mit der BBC. „Das ist kein Spiel. Es geht um eine reale Welt, reales Leid und reale Menschen, derer wir gedenken wollen und müssen.“
Dr. Robert Williams von der International Holocaust Remembrance Alliance fügte hinzu, dass Überlebende „eine gewisse Traurigkeit darüber empfinden, dass dies zugelassen wurde“, und sagte der BBC: „Sie haben das Gefühl, dass ihre Bemühungen nicht ausgereicht haben. Das ist ein sehr trauriger Gedanke, denn die letzten Überlebenden werden uns bald verlassen.“
Spammer machen sich Metas Monetarisierung zunutze
Ermittler führten viele der falschen Holocaust-Beiträge auf Content-Ersteller in Pakistan und anderen Ländern zurück, wo die Produktion viraler Facebook-Inhalte durch Monetarisierungsmodelle Einnahmen generieren kann. Ein Nutzer namens Abdul Mughees verbreitete Screenshots, denen zufolge er 20.000 US-Dollar verdient hatte, obwohl diese Angaben nicht unabhängig bestätigt werden konnten.
Der pakistanische Content-Ersteller Fazal Rahman sagte der BBC, dass Seiten mit Hunderttausenden Followern bis zu 1.000 US-Dollar im Monat verdienen können, wobei Aufrufe aus westlichen Ländern deutlich mehr wert seien als jene aus Asien. „Geschichte war als Thema ein zuverlässiger Motor für Online-Traffic“, erklärte er.
Forscher warnen, dass dieses Anreizmodell eine Flut minderwertiger KI-Inhalte befeuert, die mitunter als „KI-Müll“ bezeichnet werden und auch gefälschtes Material über den Holocaust umfassen.
Die gefälschten Bilder waren für die Angehörigen von Überlebenden besonders schmerzhaft. „Wenn ich sehe, dass sie diese Bilder posten, wirkt es fast so, als würden sie sich darüber lustig machen … als könnten wir diesen Verlust einfach künstlich nachstellen“, sagte die New Yorkerin Shaina Brander, deren Großmutter den Holocaust überlebt hat, im Gespräch mit AFP. „Man kann kein KI-Foto erstellen, um dieses Bild für sie zurückzubringen.“
Metas Reaktion
Meta, die Muttergesellschaft von Facebook, erklärte, die KI-generierten Holocaust-Bilder selbst verstießen technisch gesehen nicht gegen die Inhaltsrichtlinien des Unternehmens, bestätigte jedoch, bestimmte mit dem Holocaust-Spam verbundene Konten entfernt zu haben.
Ein Unternehmenssprecher sagte der BBC: „Wir haben die uns gemeldeten Seiten und Gruppen entfernt und die dahinterstehenden Konten wegen Verstößen gegen unsere Richtlinien zu Spam und nicht authentischem Verhalten deaktiviert.“
Kritiker halten diese Reaktion jedoch für unzureichend und warnen, dass die Verzerrung der Geschichte des Holocaust Jahrzehnte pädagogischer Arbeit und des Gedenkens untergräbt.
Der Holocaust forderte mehr als sechs Millionen Menschen. Authentische Fotografien aus dem Inneren von NS-Lagern sind selten und dienen als wichtige, schmerzhafte Beweise für die Gräueltaten. Experten warnen, dass KI-Manipulation nicht nur Opfer und Überlebende beleidigt, sondern auch die Gefahr birgt, künftige Generationen zu verwirren.
Werfen Sie einen genaueren Blick auf die Kontroversen, die die KI-Ethik vorantreiben. Von algorithmischer Verzerrung bis hin zu Lücken in der Governance zeigt der Beitrag, was für politische Entscheidungsträger und Unternehmen gleichermaßen auf dem Spiel steht.