Man kann seinen Augen kaum trauen – doch im Zeitalter generativer KI sollte man das vielleicht auch nicht.
Eine Reihe viraler Bilder, die in sozialen Medien kursierten, schien von US-Soldaten zu zeigen, die vom Iran gefangen genommen worden waren – eine dramatische Entwicklung im eskalierenden Konflikt zwischen den Vereinigten Staaten und dem Iran.
Der Beitrag begann sich rasch zu verbreiten und wurde am 5. März auf Plattformen wie X und Facebook geteilt. Die Bildunterschriften behaupteten, „US-Spezialkräfte der Delta Force“ seien festgesetzt worden. Die Bilder wurden in mehreren Sprachen geteilt, darunter Englisch, Arabisch, Spanisch und Französisch, und erreichten so ein Publikum in verschiedenen Regionen.
Die Bilder sind jedoch nicht echt. Stattdessen gehen Ermittler und Faktenchecker davon aus, dass sie mithilfe künstlicher Intelligenz erstellt wurden.
Der Vorfall verdeutlicht eine wachsende Herausforderung für Journalisten, Forscher und gewöhnliche Nutzer sozialer Medien: KI-generierte Bilder und wiederverwendete Medieninhalte können sich weit verbreiten, bevor die Wahrheit sie einholt.
Die verräterischen Anzeichen generativer KI
Analysten, die die Bilder untersuchten, fanden rasch Hinweise darauf, dass es sich um synthetische Aufnahmen handelte.
Jedes Bild enthält ein kleines, funkenförmiges Wasserzeichen, das mit Googles KI-Bildgenerator Gemini in Verbindung steht. Rückwärtssuchen nach Bildern mit Googles Tool „Über dieses Bild“ markierten die Aufnahmen ebenfalls als mit Google-KI erstellt und identifizierten eingebettete digitale SynthID-Wasserzeichen, die Inhalte kennzeichnen, die mit den KI-Systemen des Unternehmens erstellt oder bearbeitet wurden.
Neben den Wasserzeichen weisen die Bilder auch das auf, was Forscher als typische Anzeichen für Fehler generativer KI bezeichnen. In mehreren Aufnahmen wirken die Finger der Soldaten verzerrt oder missgebildet, ihre Gesichter erscheinen verschwommen oder uneinheitlich, und Tarnmuster sowie militärische Abzeichen scheinen nicht zusammenzupassen.
Auf einem Bild scheint eine Figur im Hintergrund sogar drei Arme zu haben – ein anatomischer Fehler, den generative Modelle häufig produzieren, wenn sie komplexe menschliche Körperhaltungen nicht präzise darstellen können.
Zusammengenommen deuten diese visuellen Unstimmigkeiten und die Wasserzeichen generativer KI stark darauf hin, dass die Bilder von einer KI erzeugt und nicht im „wirklichen Leben“ aufgenommen wurden.
Ein angespannter geopolitischer Hintergrund
Der jüngste Konflikt ereignete sich am 28. Februar, nachdem US-israelische Angriffe Berichten zufolge Irans Obersten Führer Ajatollah Ali Khamenei getötet hatten und eine Reihe von Vergeltungsschlägen und militärischen Reaktionen in der gesamten Region auslösten.
Angesichts der zunehmenden Spannungen warnte der iranische Außenminister Abbas Araghchi, dass jede mögliche Bodeninvasion der USA oder Israels für die beteiligten Länder „eine große Katastrophe“ wäre.
US-Präsident Donald Trump wies diese Möglichkeit noch am selben Tag in einem Interview mit NBC News zurück. US-Truppen in den Iran zu schicken, sei eine „Zeitverschwendung“. Dennoch scheinen die viralen Bilder nahezulegen, dass sich US-Streitkräfte möglicherweise bereits im Iran aufhalten.
Das Pentagon bestätigte zwar, dass kurz nach Beginn des Konflikts sechs US-Soldaten bei einem Drohnenangriff in Kuwait getötet wurden, doch gibt es keine Belege dafür, dass weitere US-Soldaten von iranischen Truppen gefangen genommen wurden.
Eine umfassendere Welle von Falschinformationen aus dem Krieg
Der Vorfall ist nur ein Beispiel für die online kursierenden Falschinformationen seit Beginn des Konflikts.
KI-generierte Bilder und wiederverwendete Medieninhalte tauchen zunehmend im Zusammenhang mit aktuellen geopolitischen Ereignissen auf. Die Faktencheck-Organisation Full Fact gibt an, seit Beginn der jüngsten Kämpfe im Nahen Osten mindestens sieben KI-generierte oder KI-optimierte Bilder sowie mehr als ein Dutzend Videos mit irreführenden Bildunterschriften zum Konflikt dokumentiert zu haben, die online kursieren.
Beiträge mit Falschinformationen können Tausende Interaktionen verzeichnen, bevor sie widerlegt werden. Manche wirken sogar offensichtlich gefälscht und tragen mitunter noch sichtbare Wasserzeichen der KI-Tools, mit denen sie erstellt wurden – trotzdem können sie sich weit verbreiten. Heute können sich Falschinformationen in der schnelllebigen Umgebung der sozialen Medien rasch verbreiten und lassen sich nur schwer korrigieren, sobald sie Fahrt aufgenommen haben.
Zu den jüngsten von Forschern markierten Beispielen gehören gefälschte Bilder, die Khamenei unter Trümmern begraben zeigen, sowie inszenierte Szenen, auf denen der Burj Khalifa oder die USS Abraham Lincoln in Flammen stehen.
Alte Videos als aktuelle Nachrichten recycelt
Natürlich sind Falschinformationen in Krisenzeiten nichts Neues, und man kann nicht alles der künstlichen Intelligenz anlasten. In vielen modernen Fällen beruhen irreführende Beiträge überhaupt nicht auf neuer Technologie, sondern verwenden ältere Bilder und Videos erneut und präsentieren sie als Belege für aktuelle Ereignisse.
So zeigt ein dramatisches Video von Explosionen nahe einem Gebäude, das online als Aufnahme aus Tel Aviv kursierte, tatsächlich einen Lagerhausbrand in China im Jahr 2015. Dasselbe Filmmaterial wurde bereits während anderer globaler Ereignisse mit irreführenden Bildunterschriften versehen, darunter Irans Raketenangriffe auf Israel im Jahr 2024 und Russlands Invasion der Ukraine im Jahr 2022.
Andere Videos, die während der aktuellen Krise kursieren, sind sogar noch älter. Ein virales Video, das fälschlicherweise US-Stützpunkte am Golf unter Beschuss zeigen soll, stammt tatsächlich vom Beginn des Irakkriegs im Jahr 2003.
Diese wiederverwendeten Videos gewinnen oft an Reichweite, weil sie dramatisch und glaubwürdig wirken – insbesondere, wenn sie aus dem Zusammenhang gerissen betrachtet werden.
Warum KI-Fälschungen immer schwerer zu erkennen sind
Die zunehmende Verfügbarkeit generativer KI-Tools zusammen mit lang etablierten Taktiken der Desinformation erschwert die Verifizierung.
Sichtbare Wasserzeichen, die von Tools wie Gemini eingebettet werden, können einige synthetische Bilder entlarven, sind jedoch kein hundertprozentig zuverlässiger Schutz. Solche Wasserzeichen lassen sich problemlos aus Bildern oder Videos herausschneiden, und viele KI-Systeme versehen ihre generierten Inhalte nicht mit sichtbaren Markierungen.
Selbst das von Google eingebettete unsichtbare SynthID-Wasserzeichen ist nicht auf allen KI-Plattformen verfügbar. Das Fehlen solcher Markierungen beweist daher nicht zwangsläufig die Echtheit.
Letztlich zeigen die viralen Bilder der „gefangenen Soldaten“, dass KI-Tools zu einer neuen Front in der Informationskriegsführung werden könnten. Mit der zunehmenden Leistungsfähigkeit und Verbreitung generativer KI-Modelle warnen Experten, dass künftige Beispiele für gefälschte Kriegsbilder weitaus schwerer zu erkennen sein könnten.
Die Flut manipulierter Bilder und Videos während sich schnell entwickelnder Krisen kann das Publikum überfordern und die Grenze zwischen echter Dokumentation und synthetischer Fälschung verwischen.
Für Journalisten und Forscher bedeutet dies, dass Verifizierungstechniken wie die Rückwärtssuche nach Bildern, Metadatenprüfungen und eine genaue visuelle Analyse immer wichtiger werden.
Für gewöhnliche Nutzer sozialer Medien, die verdächtige Bilder überprüfen möchten, besteht der wichtigste Schritt möglicherweise schlicht darin, innezuhalten und die Fakten zu prüfen, bevor sie dramatische Bilder oder Behauptungen teilen.
Im Zeitalter generativer KI könnten die ersten Bilder eines aktuellen Nachrichtenereignisses nicht mehr Dokumentation, sondern stattdessen eine Fälschung sein.
Lesen Sie auch: 5 einfache Möglichkeiten, KI-generierte Bilder zu erkennen können Lesern dabei helfen, visuelle Warnsignale zu erkennen, bevor eine Fälschung viral geht.