KI-Tools liefern verlockende, mundgerechte Zusammenfassungen des aktuellen Geschehens – aber können wir den Informationen trauen, die uns vorgesetzt werden?
Diese Technologie wird für Millionen Menschen zu einer alltäglichen Nachrichtenquelle, die inzwischen Tools wie ChatGPT und Googles AI Overviews als Abkürzung nutzen, um auf Nachrichten zuzugreifen. Doch laut einem neuen Bericht des Institute for Public Policy Research (IPPR) birgt die Bequemlichkeit KI-generierter Nachrichten Risiken.
Wie the Guardian berichtet, argumentiert die mitte-links stehende Denkfabrik, dass KI-generierte Nachrichten „Nährwertangaben“ mit klaren Hinweisen darauf tragen sollten, woher die Informationen stammen, welche Quellen verwendet wurden und wie zuverlässig sie sind. Die Idee dahinter ist, KI-Nachrichten transparenter über ihre Inhalte zu machen und Menschen so zu ermöglichen, fundierte Entscheidungen über die Nachrichten zu treffen, die sie konsumieren.
Die „Torwächter“
KI-Tools funktionieren typischerweise, indem sie Zusammenfassungen von Nachrichtenereignissen liefern, anstatt Nutzer zu Originaljournalismus weiterzuleiten. Untersuchungen des Reuters Institute for the Study of Journalism zufolge nutzen bereits etwa ein Viertel der Menschen KI-Tools, um Informationen zu erhalten, während Googles AI Overviews allein jeden Monat ungefähr 2 Milliarden Nutzer erreichen.
Die Auswirkungen können für Verlage erheblich sein. Viele Nutzer lesen die KI-Zusammenfassung, klicken aber nie tatsächlich auf die ursprüngliche Berichterstattung weiter, was den Traffic und die Werbeeinnahmen schmälert. Außerdem haben Nutzer oft kaum eine Vorstellung davon, wie Antworten generiert werden oder wer hinter dem Journalismus steht, auf dem sie basieren.
KI-Unternehmen, so die Denkfabrik, werden zu den neuen „Torwächtern“ des Internets. Sie warnt, dass diese Entwicklung ohne Gegenmaßnahmen die Zukunft der Nachrichten, wie wir sie kennen, schwer beschädigen könnte.
Was würde eine „Nährwertangabe“ enthalten?
Im Zentrum des Vorschlags des IPPR steht Transparenz rund um die KI-Antwort, indem Nutzern wertvoller Kontext zu ihrer Zusammensetzung geliefert wird. Diese Angaben würden die Quellen nennen, die zur Erstellung einer KI-Antwort verwendet wurden, etwa begutachtete Forschung, professionellen Journalismus oder andere Online-Inhalte.
Ziel ist es, Lesern genügend Kontext zu geben, um die Zuverlässigkeit und Qualität der von ihnen konsumierten Informationen beurteilen zu können.
„Wenn KI-Unternehmen mit Journalismus Gewinne erzielen und beeinflussen, was die Öffentlichkeit sieht, müssen sie verpflichtet werden, fair für die von ihnen genutzten Nachrichten zu bezahlen und unter klaren Regeln zu arbeiten, die Vielfalt, Vertrauen und die langfristige Zukunft eines unabhängigen Journalismus schützen“, sagte Roa Powell, Senior Research Fellow beim IPPR und Mitautor des Berichts.
Wer bezahlt tatsächlich für KI-Journalismus?
Das IPPR fordert außerdem ein formelles Lizenzsystem im Vereinigten Königreich, das Verlagen ermöglichen würde, gemeinsam mit Technologieunternehmen über die Nutzung ihrer Inhalte in KI-generierten Nachrichten zu verhandeln.
Der Bericht zufolge sollte das Urheberrecht nicht geschwächt werden, sondern unverändert bleiben, damit sich ein Lizenzmarkt entwickeln kann. Außerdem hebt er die mögliche Rolle der Competition and Markets Authority (CMA) hervor, die ihre neuen Durchsetzungsbefugnisse nutzen könnte. Die CMA hat vorgeschlagen, Verlagen die Möglichkeit zu geben, Google das Auslesen ihrer Inhalte für AI Overviews zu untersagen.
Eine gemeinsame Lizenzierung könnte dabei helfen, Situationen zu vermeiden, in denen nur die größten Verlage profitieren und kleinere Anbieter leer ausgehen.
KI auf dem Prüfstand
Um zu verstehen, wie stark KI-Tools bereits auf Journalismus zurückgreifen, testete das IPPR vier große Plattformen mit 100 nachrichtenbezogenen Suchanfragen und analysierte mehr als 2.500 Links in KI-generierten Antworten.
ChatGPT und Google Gemini zitierten überhaupt keinen BBC-Journalismus, da die BBC die Bots blockiert hat, die zur Erstellung von KI-Antworten eingesetzt werden. Googles eigene AI Overviews und Perplexity nutzten jedoch trotz der Einwände des Senders weiterhin BBC-Inhalte. Unterdessen erschienen Anbieter wie der Telegraph, GB News, the Sun und die Daily Mail in weniger als 4 % der ChatGPT-Antworten.
Unterdessen erschien the Guardian, der eine Lizenzvereinbarung mit OpenAI hat, in fast sechs von zehn Antworten und in etwa der Hälfte der Gemini-Antworten. Die Financial Times, die ebenfalls eine Lizenzvereinbarung hat, erschien häufig. Dies verdeutlicht, wie finanzielle Beziehungen beeinflussen, was ein KI-System als maßgebliche Information ausgibt.
Risiken und der weitere Weg
Wenn lizenzierte Publikationen in der Ausgabe von KI-Nachrichten prominenter erscheinen, könnten kleinere und lokale Nachrichtenorganisationen, die seltener KI-Vereinbarungen erhalten, um Sichtbarkeit kämpfen.
Das IPPR warnt, dass dies ein ohnehin fragiles Nachrichtenökosystem weiter schwächen könnte. Zudem könnte eine übermäßige Abhängigkeit von Technologiegiganten Nachrichtenorganisationen verwundbar machen, wenn Vereinbarungen zurückgezogen werden oder Urheberrechtsbestimmungen sich ändern.
Um dieses Problem zu bekämpfen, fordert die Denkfabrik öffentliche Fördermittel zur Unterstützung neuer Geschäftsmodelle für investigativen und lokalen Journalismus sowie Unterstützung für die BBC bei der „Innovation mit KI“.
Ein Sprecher von OpenAI erklärte gegenüber dem Guardian, das Unternehmen sei „der Unterstützung von Qualitätsjournalismus verpflichtet“. Er fügte hinzu, dass ChatGPT auf ein breites Spektrum öffentlich verfügbarer Quellen zurückgreife und Zitate sowie Links bereitstelle, damit Nutzer Informationen überprüfen und den Traffic zu Verlagen steigern könnten.
Ob die Idee einer Nährwertangabe für KI jemals umgesetzt wird, bleibt abzuwarten. Doch während KI zunehmend vermittelt, wie Menschen die Welt verstehen, verdient die Welt es zu wissen, was sie konsumiert.
Auch lesen: Ein Sammelklageverfahren argumentiert, dass Praktiken bei Trainingsdaten für KI große Anbieter dazu zwingen könnten, ihre Beschaffung urheberrechtlich geschützter Inhalte zu überdenken.