Das Fakefoto enthielt den Hinweis, der es entlarvte.
Ein KI-generiertes Bild, das Senator Mitch McConnell fälschlich in einem Krankenhausbett zeigte, wurde in sozialen Medien weithin geteilt, bevor Faktenchecker von Snopes ein darin eingebettetes Google-SynthID-Wasserzeichen identifizierten. Der Fall liefert eine ungewöhnliche Demonstration aus der Praxis, wie unsichtbare Signale zur Herkunft von KI-Inhalten dabei helfen könnten, verdächtige Bilder zu überprüfen, nachdem sie viral gegangen sind.
Zugleich offenbart es die zentrale Schwäche der Technologie: Wasserzeichen können Inhalte nur identifizieren, wenn der Bildgenerator eines einbettet … und das Erkennungstool weiß, wie es danach suchen muss.
Was hat den viralen Schwindel ausgelöst?
Laut TechCrunch, begann der Schwindel mit einem KI-generierten Bild, das Senator Mitch McConnell fälschlich in einem Krankenhausbett zeigte, an medizinische Schläuche angeschlossen. Das Bild verbreitete sich rasch auf Reddit und X, wo es angesichts des Krankenhausaufenthalts des Senators am 14. Juni und seiner nur seltenen öffentlichen Auftritte Anklang fand und Spekulationen über seinen Gesundheitszustand auslöste.
McConnells jüngster Arztbesuch verlieh dem manipulierten Bild eine Glaubwürdigkeit, die vielen viralen Schwindeleien fehlt. Das Fakefoto entstand nicht isoliert, sondern nutzte ein bereits bestehendes Nachrichtenereignis aus und verlieh den irreführenden Informationen dadurch eine große Reichweite.
Doch dasselbe Bild, das viele Nutzer überzeugte, enthielt auch den unsichtbaren Beweis, der es schließlich entlarvte.
Wie die SynthID-Technologie das Fakebild entlarvte
Faktenchecker von Snopes stellten am Mittwoch, dem 8. Juli, fest, dass die Krankenhausaufnahme von einer KI erzeugt worden war, nachdem sie das darin eingebettete SynthID-Wasserzeichen von Google entdeckt hatten.
Im Gegensatz zu herkömmlichen Metadaten oder sichtbaren Wasserzeichen fügt SynthID eine nicht wahrnehmbare digitale Signatur direkt in unterstützte KI-generierte Medien ein. Kompatible Erkennungstools können so deren Herkunft auch nach gängigen Änderungen wie verlustbehafteter Komprimierung, Größenänderung oder Screenshots.
einwandfrei identifizieren. Die Technologie für Bildwasserzeichen wurde auf der Google-I/O-Entwicklerkonferenz 2025 vorgestellt und funktionierte in diesem Fall genau so, wie Google es angekündigt hatte.
SynthID hat jedoch klare Grenzen. Die Technologie kann nur von KI-Systemen erzeugte Bilder identifizieren, die am SynthID-Programm teilnehmen. Von nicht unterstützten Modellen erzeugte Inhalte werden daher nicht erkannt. TechCrunch zufolge ist OpenAI im Mai 2026 der Initiative beigetreten.
Ich habe außerdem einen kleinen Test mit den Verifizierungstools beider Unternehmen durchgeführt. Gemini identifizierte erfolgreich ein zugeschnittenes Bild, das von Googles eigenem KI-Modell erzeugt worden war. Der Google-Chatbot erkannte das von ChatGPT erzeugte Bild jedoch nicht.
OpenAIs Verify-Tool erkannte ein originales, von ChatGPT erzeugtes Bild, scheiterte jedoch daran, einen Screenshot desselben Bildes oder von Gemini erzeugte Bilder zu erkennen. Obwohl die Stichprobe klein war, legen die Ergebnisse nahe, dass Nutzer je nach verwendetem Verifizierungstool und der Art der Bildbearbeitung zu unterschiedlichen Ergebnissen kommen können.
Was bedeutet das für Internetnutzer?
Der Fall von Senator McConnell ist nur eine von vielen Episoden, in denen KI-generierte Medien genutzt werden, um online falsche Narrative zu verbreiten. Da KI-generierte Bilder realistischer und leichter zugänglich werden – dank Google und anderer Modelle zur Bilderzeugung –, wird es immer wichtiger, ihren Einsatz für böswillige Zwecke zu bekämpfen.
Für Nutzer ist eine solche Technologie ein Erfolg im Kampf gegen falsche Narrative und Identitätstäuschung. Um zu überprüfen, ob ein Medium von einer KI erzeugt wurde, können Sie ein Gemini-Modell fragen oder es auf OpenAIs Verifizierungsplattform hochladen. Die Erkennung sollte mit einer Überprüfung der Quelle, einer Rückwärtssuche nach Bildern und Berichten vertrauenswürdiger Medien kombiniert werden.
Außerdem: Google Fotos kann gewöhnliche Videos jetzt in KI-generierte Kinoclips verwandeln. Erfahren Sie, wie die neue Funktion Video Remix funktioniert.