Eine US-Zeitung veröffentlichte eine Sommer-Leseliste mit nicht existierenden Büchern, weil sie sich bei der Erstellung des Textes auf künstliche Intelligenz stützte. Der für den Inhalt verantwortliche freie Autor Marco Buscaglia räumte gegenüber der Chicago-Sun Times ein, dass er es versäumt habe, die Ausgabe des von ihm verwendeten Chatbots zu überprüfen.
Zwar existieren alle Autoren auf der Leseliste, doch viele der Titel und Buchbeschreibungen waren erfunden. Min Jin Lee hat keinen Roman namens „Nightshade Market“ über die Schattenwirtschaft in Seoul geschrieben; Rebecca Makkai hat kein Buch über eine Klimawissenschaftlerin namens „Boiling Point“ verfasst; und Andy Weir schrieb nicht „The Last Algorithm“, einen Thriller über eine KI, die ein Bewusstsein entwickelt und heimlich globale Ereignisse beeinflusst.
in einem 64-seitigen Abschnitt der Chicago-Sun Times mit dem Titel „Heat Index: Your Guide to the Best of Summer“, der vollständig von King Features, einer Tochtergesellschaft von Hearst, produziert wurde. Die Sonderbeilage wurde außerdem mindestens einer weiteren großen regionalen Zeitung, The Philadelphia Inquirer, zur Veröffentlichung angeboten.
Buscaglias Autorenzeile erscheint in der Beilage mehrfach, und er bestätigte gegenüber der Sun-Times, dass er auch für seine anderen Artikel KI verwendet habe. Derzeit überprüft er diese Beiträge auf mögliche Fehler – ebenso wie Chicago Public Media, der Eigentümer der Zeitung. The Atlantic hat seitdem zahlreiche erfundene Zitate, Experten und Quellenangaben im Heat Index identifiziert, die nachweislich gefälscht sind.
King Features erklärte, die Zusammenarbeit mit Buscaglia zu beenden, da er seine KI-Nutzung nicht offengelegt habe – ein Verstoß gegen die Unternehmensrichtlinien. Die Sun-Times hat die Beilage in ihrer E-Ausgabe durch einen Brief des CEO von Chicago Public Media Melissa Bell ersetzt und angekündigt, dass Abonnenten der Printausgabe für die Ausgabe vom 18. Mai nicht belastet werden. Künftig wird die Zeitung außerdem ausdrücklich auf redaktionelle Inhalte von Drittanbietern hinweisen und die Einhaltung der internen redaktionellen Standards durchsetzen.
„Es ist inakzeptabel, dass diese Inhalte ungenau waren, und ebenso inakzeptabel ist, dass wir den Lesern nicht deutlich gemacht haben, dass die Beilage außerhalb der Redaktion der Sun-Times produziert wurde“, sagte Bell der Sun-Times.
Halluzinationen sind ein Risiko für die wachsende Zahl von Nachrichtenmedien, die KI einsetzen
Dies ist nicht das erste Mal, dass ein Nachrichtenmedium einen Dritten für die Veröffentlichung ungenauer, von KI erzeugter Inhalte verantwortlich macht. Sports Illustrated und Gannett, dem USA Today und andere Publikationen gehören, haben zuvor gefälschte Autoren und Rezensionen einem Unternehmen namens AdVon Commerce zugeschrieben, laut The Verge.
Halluzinationen – ein Begriff für von KI erzeugte falsche oder erfundene Inhalte – bleiben eine grundlegende Herausforderung. OpenAIs gpt-4o-mini hat Fehlerquoten von bis zu 79 %, und Studien zeigen, dass die Häufigkeit von Halluzinationen zunimmt.
Da der finanzielle Druck zunimmt, genehmigen immer mehr Redaktionen KI-Tools, um die Produktion zu beschleunigen. Im Februar bestätigte The New York Times öffentlich deren Einsatz und schloss sich damit der Associated Press, The Guardian, und News Corp an. Laut einem Bericht aus dem Jahr 2023 eines Thinktanks der London School of Economics nutzen mehr als 75 % der Journalisten, Redakteure und anderen Medienfachleute KI in der Redaktion.
Halluzinationen sind nicht das einzige Problem; von KI erzeugter Journalismus mangelt es häufig an Tiefe, Nuancen und Relevanz. Wenn eine italienische Zeitung einen vollständig von KI verfassten Beileger veröffentlichte, begann ihr Artikel über Donald Trump mit einer vagen Aussage über die Bekanntheit des Präsidenten, die an aus dem Netz zusammengetragene oder aggregierte Inhalte erinnerte, und ließ sowohl eine italienische Perspektive als auch eine klare redaktionelle Stimme vermissen.
KI kann auch Verzerrungen einführen, selbst wenn das Modell an sich neutral ist. Im März interpretierte ein von der Los Angeles Times eingesetztes KI-Tool zur Zusammenfassung von Artikeln eine Reihe von Beiträgen falsch und deutete sie als Ausdruck von Sympathie für den Ku-Klux-Klan, obwohl die Berichterstattung in Wirklichkeit hervorheben wollte, wie historische Narrative die ideologische Bedrohung durch die Gruppe verharmlost hatten.
Im Januar geriet Apple in die Kritik, nachdem sein KI-gestütztes Tool zur Zusammenfassung von Nachrichten von zuverlässigen Nachrichtenquellen wie BBC News und The New York Times gemeldete Informationen falsch dargestellt und ungenau formulierte Warnungen an iPhone-Nutzer gesendet hatte.