Ein überzeugendes Bild kann dennoch einen unsichtbaren Hinweis darauf enthalten, dass es von einer KI erstellt wurde.
Google gab am 7. Oktober bekannt, dass die Website des SynthID-Detektors weltweit auf Englisch verfügbar ist. Damit können Nutzer Bilder, Videos und Audio auf unterstützte KI-Wasserzeichen prüfen. Zuvor war der Zugang zunächst Journalisten, Medienfachleuten und Forschern vorbehalten.
Für Unternehmen, die verdächtige Medien prüfen oder von KI erzeugte Marketingmaterialien kontrollieren, bietet die Website einen weiteren Verifizierungsschritt. Ein Wasserzeichen kann auf eine Beteiligung von KI hinweisen, aber nicht belegen, dass die Aussagen des Inhalts wahr sind.
Die Wasserzeichenprüfung von SynthID
Besucher können eine Datei in den SynthID-Detektor hochladen. Dieser sucht nach einem digitalen Wasserzeichen, das eingebettet wird, wenn kompatible KI-Software Inhalte erstellt oder verändert. Laut Google DeepMind sind die Markierungen in Bildern und Videos unsichtbar und in Aufnahmen nicht hörbar, sodass Medien ihr ursprüngliches Aussehen oder ihren ursprünglichen Klang behalten können. In Googles Ankündigung des Detektors aus dem Jahr 2025 hieß es, dass Bildbereiche und Audioabschnitte hervorgehoben werden, die am wahrscheinlichsten ein Wasserzeichen enthalten.
Google zufolge können Wasserzeichen in Bildern gängige Bearbeitungen wie Zuschneiden und Komprimieren überstehen. Wasserzeichen in Audio können auch nach einer MP3-Komprimierung oder Änderungen der Wiedergabegeschwindigkeit erkennbar bleiben. Bilder, die mit Nano Banana 2 erstellt werden, tragen neben anderen Informationen zur Inhaltsherkunft auch ein SynthID-Wasserzeichen.
Die Erkennung hat sich in realen Fällen als hilfreich erwiesen. Im Juli identifizierten Faktenchecker ein gefälschtes Krankenhausfoto von Senator Mitch McConnell nachdem sie das eingebettete Wasserzeichen gefunden hatten. Ein positiver Treffer kann jedoch nicht belegen, dass die dargestellten Aussagen wahr sind. Auch ein erfolgloser Scan kann nicht bestätigen, dass eine Aufnahme oder ein Bild echt ist, da andere KI-Systeme möglicherweise kein kompatibles Wasserzeichen hinterlassen.
Weitere KI-Anbieter schließen sich dem Verifizierungssystem an
Google weitet die Verifizierung aus auf kompatible Medien teilnehmender KI-Unternehmen. OpenAI, Nvidia und das südkoreanische Unternehmen Kakao gehören zu den genannten Partnern; Apple soll hinzukommen. Ein gemeinsamer Detektor bietet eine zentrale Anlaufstelle zur Prüfung unterstützter Inhalte verschiedener Anbieter, auch wenn sich die Kompatibilität nicht auf jedes von ihnen erzeugte Produkt oder Ergebnis erstreckt.
Die Verbreitung ist seit der Einführung von SynthID im Jahr 2023 deutlich gewachsen. Das Technologieunternehmen berichtet, mehr als 180 Milliarden Bilder und Videos mit Wasserzeichen versehen zu haben, zusätzlich zu Audio im Umfang von 240.000 Jahren. Seine Technologie steckt in Produkten, die von Veos Tools zur Videogenerierung bis zu Lyrias KI-Musikfunktionen reichen.
Schon vor der öffentlichen Freischaltung der eigenständigen Website war eine Verifizierung über bestehende Google-Produkte möglich. Google zufolge verarbeiten die Verifizierungsfunktionen in der Suche, der Gemini-App und Chrome inzwischen regelmäßig mehr als 1 Million Anfragen pro Tag.
Die Erkenntnisse von eWeek: Textverifizierung kann privat bleiben
Ein Vergleich von Googles öffentlicher Ankündigung des Detektors mit der Entwicklerdokumentation zu SynthID Text zeigt einen wichtigen Unterschied: Die öffentliche Einführung umfasst Bilder, Videos und Audio, während Organisationen, die SynthID Text separat implementieren, den Zugriff auf ihren Textdetektor kontrollieren können.
Google bietet drei Möglichkeiten, den Zugriff auf die SynthID-Textverifizierung zu kontrollieren.
- Vollständig private Erkennung. Organisationen halten den Detektor intern und verhindern so, dass Außenstehende Wasserzeichen unabhängig prüfen.
- Teilprivate Erkennung. Die Verifizierung ist über eine API möglich, wobei die Organisation den Zugriff kontrolliert.
- Öffentliche Erkennung. Organisationen stellen den Detektor zum Herunterladen und zur unabhängigen Nutzung durch andere bereit.
SynthID Text sucht nach Wasserzeichen, die während der Generierung eingebettet wurden, im Gegensatz zu herkömmlichen KI-Schreibdetektoren, die Schreibmuster analysieren. Googles ursprüngliche Ankündigung des Detektors aus dem Jahr 2025 behandelte die Textverifizierung, doch die neue öffentliche Website wirbt nur mit Prüfungen für Bilder, Videos und Audio. Die offizielle Dokumentation bestätigt private Erkennungsoptionen für Text, legt aber keine vergleichbaren Einschränkungen für andere Medienformate fest.
Ein Dokument kann daher ein SynthID-Textwasserzeichen tragen, ohne den Empfängern Zugriff auf einen kompatiblen Detektor zu geben. Selbst bei bestehendem Zugriff ist die Erkennung probabilistisch, und umfangreiches Umschreiben oder Übersetzen kann die Zuverlässigkeit des Ergebnisses verringern. Denken wir an ein Unternehmen, das KI zur Erstellung von Kundenkommunikation oder regulierten Berichten einsetzt. Wenn ein Kunde oder Prüfer später die Herkunft eines Dokuments anzweifelt, muss er sich möglicherweise darauf verlassen, dass das Unternehmen die Verifizierung bereitstellt.
Organisationen, die SynthID Text einsetzen, sollten im Voraus entscheiden, ob externe Parteien ihre Dokumente über eine API oder einen öffentlich verfügbaren Detektor prüfen können. Das Aufbewahren von Originaldateien und Bearbeitungsprotokollen kann außerdem dabei helfen, Angaben zur KI-Nutzung zu belegen, wenn später Fragen aufkommen.
Weitere KI-News: Mistrals neuestes Flaggschiffmodell zielt mit einem Kontextfenster von 1 Million Tokens und einer teureren API auf größere Workloads ab.