Googles AI Overviews können das Web zusammenfassen. Das Problem ist: Das Web kann lügen.
Google versucht, ein wachsendes Problem innerhalb der KI-gestützten Suche in den Griff zu bekommen, nachdem eine BBC-Recherche ergeben hat, dass irreführende Online-Inhalte die Antworten von Googles AI Overviews und anderen großen Chatbots beeinflussen können. Die aktualisierten Spam-Richtlinien schließen nun ausdrücklich Versuche ein, Antworten generativer KI zu manipulieren.
Der Suchmaschinenriese erklärt, die Formulierung in den Richtlinien stelle lediglich Regeln klar, die bereits durchgesetzt worden seien. Doch während die KI in der Suche immer mehr Raum einnimmt, wirkt das alte Spam-Problem zunehmend anders.
Ein alberner Test mit einem ernsten Fehler
KI-Chatbots beantworten Fragen nicht immer aus dem Gedächtnis. In manchen Fällen durchsuchen sie das aktuelle Web, greifen Informationen aus Online-Quellen auf und nutzen dieses Material, um eine Antwort zu formulieren.
BBC-Reporter Thomas Germain testete anhand eines auf seiner persönlichen Website veröffentlichten gefälschten Artikels, in dem behauptet wurde, er sei ein „Weltmeister im Wettessen von Hotdogs“, wie anfällig dieser Prozess sein kann. Bereits am nächsten Tag, schrieb er, KI-Tools wie ChatGPT, Gemini, und Googles AI Overviews wiederholten die Behauptung.
Wohl niemand wird aufgrund eines erfundenen Titels eine wichtige Lebensentscheidung treffen. Germains Punkt war, dass dieselbe Methode nicht albern bleiben muss.
Laut der BBC sind ähnliche Taktiken im Zusammenhang mit Nahrungsergänzungsmitteln und Finanzinformationen zur Altersvorsorge aufgetaucht, wo eine platzierte oder voreingenommene Seite deutlich größeren Schaden anrichten kann.
Eine „Welt mit einer einzigen wahren Antwort“
Herkömmlicher Suchmaschinen-Spam hatte meist ein Ziel: eine fragwürdige Seite vor Nutzer zu bringen und sie zum Klicken zu bewegen.
KI-Suche, verändert jedoch den möglichen Gewinn. Eine schwache oder platzierte Behauptung kann in eine direkte Antwort einfließen, bei der Nutzer weniger konkurrierende Quellen sehen, bevor sie entscheiden, was sie für vertrauenswürdig halten.
Eine einzelne Antwort kann gefestigter wirken, als die Informationen dahinter tatsächlich sind. Lily Ray, Gründerin der SEO- und KI-Suchberatung Algorythmic, sagte der BBC, Nutzer sollten davon ausgehen, dass sie „manipuliert werden“, bis bessere Systeme vorhanden sind.
„Wir bewegen uns auf eine ‚Welt mit einer einzigen wahren Antwort‘ zu“, sagte Ray. „Früher gab Google einem 10 blaue Links und man betrieb gewissermaßen eigene Recherche. Aber die KI gibt einem einfach eine Antwort.“
Harpreet Chatha, der die SEO-Beratung Harps Digital leitet, warnte, dass sich das Problem schnell von wirtschaftlichem Schaden zu gesundheitlichen oder rechtlichen Folgen entwickeln könne. „Auf einer ernsteren Ebene könnten Sie medizinischen Rat befolgen, der Sie kränker macht als zuvor“, sagte Chatha. „Rechtlich gesehen könnten Sie falsche Informationen erhalten und etwas tun, das in Ihrem Bundesstaat oder Ihrem Land nicht legal ist.“
Google macht die Angriffsfläche größer
Das Problem der KI-Manipulation wird schwieriger, je mehr Google die KI das Sucherlebnis übernehmen lässt.
Google baut die Suche aus – mit Folgefragen, generativen Ergebnissen und Informationsagenten, die das Web überwachen und zusammengefasste Aktualisierungen senden können. Links gibt es weiterhin, doch Nutzer werden zu Antworten gelenkt, die für sie zusammengestellt werden.
Die Bekämpfung von Missbrauch wird schwieriger, wenn die Antwortschicht immer weiter wächst. Eine manipulierte Seite muss einen Leser nicht mehr aus eigener Kraft überzeugen; möglicherweise muss sie nur Teil der Antwort werden, die Googles KI zuerst ausliefert.
Google nutzte die I/O, um zu zeigen, wie sich Gemini über nahezu jeden wichtigen Arbeitsablauf ausbreitet, von Suchagenten bis zur App-Generierung.