Der Arzt empfängt Sie jetzt. Leider ist es kein echter Arzt. Und das Ergebnis ist ausgesprochen ungesund.
TikTok und andere große soziale Plattformen beherbergen eine Welle von KI-generierten Deepfake-Videos, in denen die Bilder und Stimmen echter Ärzte manipuliert werden, um Nahrungsergänzungsmittel zu bewerben und Gesundheitsdesinformation zu verbreiten.
Wie The Guardian berichtet, hat eine Untersuchung der Faktencheck-Organisation Full Fact Hunderte solcher Videos aufgedeckt und damit dringende Fragen zur Regulierung synthetischer Medien und zu den dadurch entstehenden Risiken für die öffentliche Gesundheit aufgeworfen.
So funktionieren die Deepfakes
Full Fact stellte fest, dass alle Videos authentisches Filmmaterial bekannter medizinischer Experten oder Influencer verwenden, deren Gesichter und Sprache jedoch mithilfe von KI verändert wurden. In jedem Fall fordern die gefälschten Versionen die Zuschauerinnen – vor allem Frauen in den Wechseljahren – auf, Nahrungsergänzungsmittel wie Probiotika und Himalaya-Shilajit von Wellness Nest, einem US-amerikanischen Unternehmen für Nahrungsergänzungsmittel, zu kaufen.
Laut Full Fact markiert dies eine neue Phase im Missbrauch synthetischer Medien. Der investigative Journalist Leo Benedictus, der die Untersuchung leitete, bezeichnete die Methode als „finster und beunruhigend“ und ergänzte, die Urheber setzten KI gezielt ein, damit „jemand, der hohes Ansehen genießt oder ein großes Publikum hat, diese Nahrungsergänzungsmittel zur Behandlung einer Reihe von Beschwerden zu empfehlen scheint“. Die Untersuchung legt nahe, dass sich die Deepfake-Technologie über politische Manipulation hinaus hin zu gezieltem Verbraucherbetrug im Gesundheitsbereich entwickelt – mit potenziell schwerwiegenden Folgen.
Echte Ärzte, gefälschte Behauptungen
Einige der auffälligsten Beispiele betreffen Prof. David Taylor-Robinson, einen Experten für gesundheitliche Ungleichheiten an der University of Liverpool. Obwohl er auf Kindergesundheit spezialisiert ist, entdeckte er im August, dass TikTok 14 Videos beherbergte, die eine gefälschte Version seiner Person bei Gesprächen über die Wechseljahre zeigten – zeitweise mit Behauptungen über eine angebliche Nebenwirkung namens „Thermometerbein“.
In einem vielfach geteilten Clip riet die künstliche Version von Taylor-Robinson Frauen, auf der Website von Wellness Nest ein „natürliches Probiotikum“ mit „10 wissenschaftlich belegten Pflanzenextrakten“ zu kaufen. Sie ging noch weiter und behauptete, weibliche Kolleginnen „berichten häufig innerhalb weniger Wochen von tieferem Schlaf, weniger Hitzewallungen und aufgehellten Morgen“.
Taylor-Robinson erfuhr erst von den manipulierten Clips, als ein Kollege sie entdeckte. Das verwendete Bildmaterial stammte von einer Konferenz von Public Health England aus dem Jahr 2017, auf der er über Impfungen gesprochen hatte, sowie von einer parlamentarischen Anhörung über Kinderarmut Anfang dieses Jahres. Er bezeichnete die Entdeckung als „surreal“ und erklärte, er fühle sich zwar nicht verletzt, sei aber „über die Vorstellung verärgert, dass Menschen aufgrund meiner Arbeit Produkte verkaufen, und über die damit verbundene Gesundheitsdesinformation“. Besonders beunruhigend war ein Video, das ihn beim Fluchen und bei frauenfeindlichen Äußerungen zeigte – vollständig erfunden, aber als echt präsentiert.
TikTok entfernte die Videos sechs Wochen nach seiner Beschwerde und stufte einige zunächst als Verstoß gegen die Richtlinien ein, während andere als zulässig galten. Taylor-Robinson bezeichnete den Vorgang als „einen ziemlichen Krampf“ und verdeutlichte damit, wie schwer es Plattformen weiterhin fällt, zusammenhängende Muster von Identitätsdiebstahl zu erkennen.
Weitere Personen im Visier
Full Fact fand außerdem acht Deepfake-Videos, in denen Duncan Selbie, der ehemalige Vorstandsvorsitzende von Public Health England, imitiert wurde. Wie Taylor-Robinson wurde auch er fälschlich bei Gesprächen über die Wechseljahre gezeigt – erneut mit Aufnahmen von derselben Veranstaltung aus dem Jahr 2017. Ein Clip über das „Thermometerbein“ war laut Selbie „eine erstaunliche Imitation“ und zeigte, wie präzise KI-Systeme inzwischen das Abbild eines Menschen fälschen können.
Ähnliche Inhalte tauchten auf X, Facebook und YouTube auf und verwiesen häufig auf Wellness Nest oder dessen britischen Ableger Wellness Nest UK. Auch Deepfakes mit bekannten Persönlichkeiten wie Prof. Tim Spector und dem verstorbenen Dr. Michael Mosley wurden entdeckt.
Wellness Nest erklärte gegenüber Full Fact, solche Videos seien „zu 100 % nicht mit dem Unternehmen verbunden“, und behauptete, man habe „niemals KI-generierte Inhalte verwendet“. Das Unternehmen argumentierte, es könne „Tochterunternehmen auf der ganzen Welt weder kontrollieren noch überwachen“, was Fragen nach der Verantwortlichkeit aufwirft, wenn Unternehmen indirekt von irreführenden Werbemethoden profitieren.
Öffentliche Gesundheit und Regulierung
Die Verbreitung von Deepfake-Empfehlungen durch Ärzte hat erhebliche Auswirkungen auf die öffentliche Gesundheit. Experten warnen, dass synthetische Erfahrungsberichte vertrauenswürdiger Fachleute Entscheidungen über die Gesundheitsversorgung verzerren, Verbraucher zu nicht regulierten Produkten treiben und das Vertrauen in legitime medizinische Beratung untergraben können. Da die Wechseljahre ohnehin Gegenstand weitverbreiteter Desinformation sind, drohen künstlich verstärkte Behauptungen die Verunsicherung unter Hilfesuchenden zu verschärfen.
Politiker fordern eine Verschärfung der Regulierung. Helen Morgan, gesundheitspolitische Sprecherin der Liberal Democrats, bezeichnete die Situation als Beleg dafür, dass „KI eingesetzt wird, um arglose Menschen auszunutzen und die größer werdenden Risse in unserem Gesundheitssystem zu missbrauchen“. Sie sprach sich für entschlossene Maßnahmen gegen Deepfakes aus, die sich als medizinisches Fachpersonal ausgeben, und schlug vor, Nutzer automatisch an die Unterstützung des NHS zu verweisen, sobald sie bei KI-Tools Gesundheitsrat suchen. Morgan fragte außerdem, warum das „digitale Äquivalent“ einer betrügerischen Identitätstäuschung toleriert werde, wenn das Gegenstück in der realen Welt strafrechtliche Konsequenzen hätte.
Die Plattformen reagieren
Ein TikTok-Sprecher erklärte, die Plattform habe die Inhalte mit Taylor-Robinson und Selbie wegen Verstößen gegen die Regeln zu schädlicher Desinformation und Identitätstäuschung entfernt. Man räumte ein, dass „schädlich irreführende KI-generierte Inhalte eine branchenweite Herausforderung darstellen“, und erklärte, TikTok investiere in verbesserte Erkennungssysteme.
Die Ergebnisse von Full Fact zeigen unterdessen, dass sich die Deepfake-Manipulation rasch von politischer Einflussnahme hin zu kommerzieller Ausbeutung verlagert – und soziale Plattformen weiterhin Schwierigkeiten haben, sie einzudämmen.
Erfreulichere Nachrichten gibt es bei den weltweiten Investitionen in KI-Infrastruktur für intelligente Systeme: Laut Ben Powell von BlackRock gibt es keinerlei Anzeichen für eine Verlangsamung.