Une nouvelle analyse a révélé que 10 % des plus grandes newsletters de la plateforme de publication Substack utilisent probablement du contenu généré par l’IA sous une forme ou une autre, et que 7 % des newsletters « dépendent fortement » de contenus produits par l’IA. L’analyse a été menée par GPTZero, dont l’outil de détection de l’IA peut déterminer la probabilité qu’un texte ait été créé par une IA générative. Les résultats ont été publiés en exclusivité par WIRED.
GPTZero a examiné les 100 newsletters les plus populaires de la plateforme Substack, en analysant 25 à 30 publications de chacune avec son outil de détection de l’IA. GPTZero a constaté que 10 de ces newsletters utilisaient probablement du contenu généré par ChatGPT et d’autres plateformes, et que sept d’entre elles en dépendaient fortement.
WIRED a contacté les sept newsletters concernées. Selon le magazine, quatre d’entre elles ont confirmé que des outils d’intelligence artificielle faisaient partie de leur processus de rédaction. Les trois autres n’ont pas répondu aux demandes de commentaire. Toutefois, la plupart des publications qui ont répondu ont déclaré utiliser des outils d’IA pour publier sur les réseaux sociaux, créer des résumés, produire des images, vérifier la grammaire de leurs publications et effectuer d’autres tâches similaires, plutôt que pour générer intégralement le contenu de leur newsletter Substack.
« Je suis fier d’utiliser des outils modernes pour gagner en productivité dans mes entreprises », a déclaré David Skilling, qui dirige la newsletter Original Football sur Substack, suivie par 630 000 abonnés. « Les outils de détection de l’IA peuvent détecter l’utilisation de l’IA, mais il y a une énorme différence entre un contenu généré par l’IA et un contenu assisté par l’IA. »
Substack n’a pas de politique officielle concernant l’utilisation de l’IA sur sa plateforme. Rien n’interdit donc aux auteurs d’utiliser une IA générative pour créer du contenu destiné à Substack. Helen Tobin, responsable de la communication de Substack, a refusé de commenter spécifiquement les résultats de GPTZero.
« Nous avons mis en place plusieurs mécanismes pour détecter et limiter les activités de spam non authentiques ou coordonnées, comme le copié-collé en masse, les contenus en double, le spam visant le référencement, l’hameçonnage et l’activité de bots — autant de pratiques qui peuvent impliquer du contenu généré par l’IA », a-t-elle déclaré à WIRED dans un e-mail. « Cependant, nous ne surveillons pas activement les contenus et ne les supprimons pas uniquement en raison de leur origine liée à l’IA, car la création de contenu assistée par l’IA peut avoir de nombreuses applications légitimes et constructives. »
Pour remettre les informations sur l’IA de Substack dans leur contexte, une autre analyse menée par GPTZero a révélé qu’environ un article de Wikipédia sur vingt utilisait du contenu créé par l’IA — soit près de la moitié du taux observé par Substack. Toutefois, des analyses supplémentaires réalisées avec deux autres outils de détection de l’IA ont établi que près de 40 % des publications de la plateforme de publication Medium contenaient du contenu généré par l’IA. La différence tient au fait que la plupart de ces publications sur Medium suscitent très peu d’engagement, tandis que les newsletters Substack concernées comptent parmi les plus populaires de la plateforme.