Der Dienst zur Bewertung der Nachrichtenverlässlichkeit NewsGuard berichtete, dass führende generative KI-Chatbots – darunter OpenAIs ChatGPT, Googles Gemini und Microsofts Copilot – unbeabsichtigt russische Propaganda verbreiten. Die Ergebnisse zeigen, dass diese Systeme von einem in Moskau ansässigen Desinformationsnetzwerk namens Pravda beeinflusst wurden, das sie mit falschen Narrativen überflutet hat.
Eine kürzlich durchgeführte Prüfung von KI-Chatbots großer Technologieunternehmen ergab, dass diese häufig russische Desinformation wiedergeben. Die irreführenden Behauptungen tauchten in etwa 33 Prozent der Chatbot-Antworten auf. Die Ergebnisse verstärken die wachsenden Bedenken hinsichtlich KI-gestützter Desinformation, insbesondere da Netzwerke wie Pravda diese Modelle ins Visier nehmen, um ihre Ausgaben zu manipulieren.
Pravda: Wie manipuliert sie KI?
Pravda ist ein Netzwerk aus etwa 150 Websites, das pro-Kreml-Propaganda verbreitet, indem es Inhalte russischer staatlich kontrollierter Medien und Regierungsquellen aggregiert. Das 2022 gegründete Netzwerk zielt darauf ab, den globalen Diskurs zu beeinflussen, indem es das Internet mit falschen Behauptungen überflutet – etwa haltlosen Anschuldigungen über US-Biowaffenlabore in der Ukraine und den angeblichen Missbrauch von US-Militärhilfe durch den ukrainischen Präsidenten Volodymyr Zelenskyy. Diese erfundenen Behauptungen sind in KI-Chatbot-Antworten eingesickert und verseuchen sie mit Desinformation.
Pravda, auch Portal Kombat genannt, täuscht Suchmaschinen und Webcrawler gezielt, um ihre Propaganda in Datensätze für das KI-Training einzuschleusen. Durch die Ausnutzung von Ranking-Algorithmen beeinflusst das Netzwerk auf subtile Weise die Antworten von KI-Chatbots – mit dem Ergebnis, dass diese Desinformation weiterverbreiten. Allein 2024 steuerte das riesige Netzwerk von Pravda laut dem American Sunlight Project mehr als 3,6 Millionen Artikel bei. Diese Ergebnisse unterstreichen zusammen mit dem Bericht von NewsGuard, wie ungeprüfte irreführende Behauptungen die Integrität KI-generierter Inhalte untergraben.
Kann man KI vertrauen? Wachsende Zweifel an der Zuverlässigkeit
Die Manipulation von generativen KI-Chatbots von führenden KI-Unternehmen wie OpenAI, Google und Microsoft gibt Anlass zu ernsthaften Bedenken hinsichtlich der Zuverlässigkeit KI-generierter Inhalte. Trotz der umfangreichen Ressourcen und Schutzmaßnahmen dieser Unternehmen bleiben ihre KI-Lösungen anfällig für Desinformationskampagnen. Angesichts der globalen Reichweite dieser Plattformen wirft dieses Problem Zweifel an der Vertrauenswürdigkeit von KI-Antworten und ihrer Fähigkeit auf, irreführende Narrative herauszufiltern.
Ihre Organisation vor KI-Desinformation schützen
Da immer mehr Unternehmen auf künstliche Intelligenz für den täglichen Betrieb setzen, steigt das Risiko, dass falsche Informationen die unternehmensinternen KI-Tools beeinträchtigen. Ungeprüfte Desinformation kann Vertrauen untergraben, Mitarbeitende in die Irre führen und die Glaubwürdigkeit eines Unternehmens schädigen. Um KI-gestützter Desinformation entgegenzuwirken, sollten Organisationen strenge Prüfungen durchführen, die Daten in Echtzeit validieren und Teams darin schulen, ungenaue, von KI generierte Inhalte unverzüglich zu erkennen und zu korrigieren.