Un journal américain a publié une liste de lectures estivales présentant des livres inexistants parce qu’il s’est appuyé sur l’intelligence artificielle pour générer le texte. Le rédacteur indépendant responsable de ce contenu, Marco Buscaglia, a reconnu au Chicago-Sun Times qu’il avait « échoué » à vérifier les résultats du chatbot qu’il avait utilisé.
Si tous les auteurs de la liste existent bel et bien, de nombreux titres et résumés de livres ont été inventés. Min Jin Lee n’a pas écrit de roman intitulé « Nightshade Market », situé dans l’économie souterraine de Séoul ; Rebecca Makkai n’a pas écrit de livre consacré à une climatologue intitulé « Boiling Point » ; et Andy Weir n’a pas écrit « The Last Algorithm », un thriller sur une IA qui prend conscience d’elle-même et influence secrètement les événements mondiaux.
La liste de lectures figurait dans une section de 64 pages du Chicago-Sun Times intitulée « Heat Index: Your Guide to the Best of Summer », produite dans son intégralité par King Features, une filiale de Hearst. Cette section spéciale a également été distribuée à au moins un autre grand journal régional, The Philadelphia Inquirer.
La signature de Buscaglia apparaît à plusieurs reprises dans le supplément, et il a reconnu au Sun-Times avoir également utilisé l’IA pour ses autres articles. Il examine actuellement ces textes afin d’y déceler d’éventuelles erreurs, tout comme Chicago Public Media, le propriétaire du journal. The Atlantic a depuis identifié de nombreuses citations, experts et références bibliographiques inventés dans le Heat Index, qui sont manifestement faux.
King Features a déclaré qu’il mettrait fin à sa relation avec Buscaglia, affirmant que celui-ci n’avait pas signalé son recours à l’IA — une violation de la politique de l’entreprise. Le Sun-Times a remplacé la section dans son édition numérique par une lettre de la directrice générale de Chicago Public Media Melissa Bell et annoncé que les abonnés à l’édition papier ne seraient pas facturés pour l’édition du 18 mai. À l’avenir, le journal indiquera également explicitement qu’il s’agit de contenu éditorial produit par un tiers et veillera au respect de ses normes éditoriales internes.
« Il est inacceptable que ce contenu soit inexact, et il est tout aussi inacceptable que nous n’ayons pas clairement indiqué aux lecteurs que cette section avait été produite en dehors de la rédaction du Sun-Times », a déclaré Bell au Sun-Times.
Les hallucinations représentent un risque pour le nombre croissant de médias qui utilisent l’IA
Ce n’est pas la première fois qu’un média rejette sur un tiers la responsabilité de la publication de contenus inexacts générés par l’IA. Sports Illustrated et Gannett, qui possède USA Today et d’autres publications, ont précédemment attribué de faux auteurs et de fausses critiques à une société appelée AdVon Commerce, selon The Verge.
Les hallucinations — terme désignant les contenus faux ou inventés générés par l’IA — restent un défi fondamental. Le modèle gpt-4o-mini d’OpenAI a affiché des taux d’erreur pouvant atteindre 79 %, et des études montrent que la fréquence des hallucinations est en hausse.
À mesure que les pressions financières s’intensifient, davantage de rédactions approuvent l’utilisation d’outils d’IA pour accélérer la production. En février, The New York Times a publiquement confirmé son utilisation, rejoignant l’Associated Press, The Guardian, et News Corp. Selon un rapport publié en 2023 par un groupe de réflexion de la London School of Economics, plus de 75 % des journalistes, rédacteurs en chef et autres professionnels des médias utilisent l’IA dans les rédactions.
Les hallucinations ne sont pas le seul problème ; le journalisme généré par l’IA manque souvent de profondeur, de nuances et de pertinence. Lorsqu’un journal italien a publié un supplément entièrement rédigé par l’IA, son article sur Donald Trump commençait par une affirmation vague sur la notoriété du président, évoquant du contenu récupéré ou agrégé, et ne proposait ni point de vue italien ni véritable voix éditoriale.
L’IA peut également introduire des biais, même si le modèle lui-même est intrinsèquement neutre. En mars, un outil de résumé par IA utilisé par le Los Angeles Times a mal interprété une série d’articles comme exprimant de la sympathie pour le Ku Klux Klan, alors qu’en réalité ces articles cherchaient à montrer comment les récits historiques avaient minimisé la menace idéologique du groupe.
En janvier, Apple a essuyé des critiques après que son outil de synthèse de l’actualité fondé sur l’IA eut déformé des informations rapportées par des sources d’information fiables, notamment BBC News et The New York Times, et envoyé des alertes inexactes aux utilisateurs d’iPhone.