Eine brisante Studie des Tow Center for Digital Journalism hat einen gravierenden Mangel KI-gestützter Suchmaschinen aufgedeckt: Sie sind miserabel darin, Nachrichten korrekt zu belegen. Nach der Analyse von acht KI-Suchplattformen stellten die Forschenden fest, dass mehr als sechzig Prozent der Antworten falsche oder irreführende Quellenangaben enthielten. Einige KI-Chatbots schnitten besser ab als andere – Perplexity kam auf eine Fehlerquote von 37 %, doch Elon Musks Grok 3 war mit Abstand der größte Übeltäter und erzeugte in erstaunlichen 94 % der Fälle falsche Quellenangaben.
Das Chaos bei den Quellenangaben der KI
Viele KI-Suchmaschinen und Chatbots wie ChatGPT und Grok verweisen auf traditionelle Nachrichtenquellen wie die BBC, The New York Times oder Reuters, um ihre Glaubwürdigkeit zu steigern. Dahinter steckt die Logik, dass Nutzer einer Antwort eher glauben, wenn der Chatbot auf ein angesehenes Medium verlinkt.
Die Studie ergab jedoch, dass viele dieser Quellenangaben tatsächlich nicht zum ursprünglichen Inhalt führen. Stattdessen erfinden die Systeme Links, verweisen auf syndizierte oder plagiarisierte Inhalte oder schreiben Artikel anderen Verlagen zu. Sind diese Quellenangaben falsch, nehmen sowohl der Ruf des Chatbots als auch der der Verlage Schaden.
Noch schlimmer: Nutzer, die die Quellen nicht überprüfen, können unwissentlich Fehlinformationen verbreiten und damit die Ungenauigkeiten des Chatbots verstärken.
KI-Chatbots und der Zugriff auf geschützte Inhalte
Neben den Problemen mit Quellenangaben deckte die Studie bedenkliche Widersprüche darin auf, wie KI-Chatbots mit geschützten Inhalten umgehen. Einige Chatbots, darunter ChatGPT und Perplexity, lieferten entweder keine Antworten auf Anfragen zu Inhalten von Verlagen, die den Zugriff von Crawlern ausdrücklich erlaubten, oder beantworteten erfolgreich Fragen zu Inhalten, auf die sie eigentlich keinen Zugriff hätten haben dürfen. Perplexity Pro identifizierte fast ein Drittel von 90 Auszügen aus Artikeln korrekt, die eigentlich nicht zugänglich sein sollten.
Besonders alarmierend war die Erkenntnis, dass die kostenlose Version von Perplexity alle 10 Anfragen zu kostenpflichtigen Artikeln von National Geographic korrekt beantwortete, obwohl National Geographic den Crawlern von Perplexity ausdrücklich den Zugriff untersagt. Zwar können KI-Modelle Informationen mitunter aus öffentlich zugänglichen Quellen ableiten, doch dieser Befund wirft die Frage auf, ob Perplexity die Beschränkungen der Verlage tatsächlich wie versprochen respektiert.
Press Gazette berichtete, dass Perplexity im Januar 146.000-mal auf Inhalte der New York Times verwies, obwohl der Verlag seine Crawler blockierte. ChatGPT wiederum zeigte zwar weniger Anfragen zu geschützten Inhalten als andere Chatbots, neigte aber dennoch dazu, falsche Informationen zu liefern, anstatt die Antwort einfach zu verweigern.
Das Problem mit der übertriebenen Selbstsicherheit der KI
Einer der größten Mängel von KI ist ihre unerschütterliche Selbstsicherheit – selbst wenn sie falsch liegt. KI-Suchmaschinen geben nur selten zu, wenn sie etwas nicht wissen. Stattdessen füllen sie die Lücken mit autoritativ klingenden, aber falschen Antworten. Dieser „Halluzinationseffekt“ macht es Nutzern schwer, Fehlinformationen zu erkennen – insbesondere, wenn sie mit dem Thema nicht vertraut sind.
Warum menschliche Kontrolle wichtiger denn je ist
Solange KI-Suchmaschinen weiterhin mit der Genauigkeit zu kämpfen haben, bleibt menschliches Urteilsvermögen unverzichtbar. Faktenprüfung, der Abgleich von Quellen und kritisches Denken sind allesamt notwendig, um Fakten von Fiktion zu unterscheiden. Bis KI-Plattformen die Zuverlässigkeit ihrer Quellenangaben drastisch verbessern, müssen Nutzer gegenüber KI-generierten Quellenangaben skeptisch bleiben. Lesen Sie die vollständige Studie des Tow Center, um mehr über die Ergebnisse zu erfahren.
Erfahren Sie mehr über die Risiken der Nutzung generativer KI und darüber, welche Schritte Sie zu ihrer Eindämmung unternehmen können.