La dernière tentative de Substack pour aider les lecteurs à distinguer l’écriture humaine des textes générés par l’IA a plutôt déclenché des accusations selon lesquelles la plateforme transforme les auteurs en suspects.
La plateforme de newsletters a commencé à déployer une fonctionnalité de détection de l’IA propulsée par Pangram, qui permet aux lecteurs d’estimer quelle proportion d’un article semble avoir été écrite par une intelligence artificielle plutôt que par une personne.
Alors que Substack affirme que cette fonctionnalité vise à améliorer la transparence à mesure que les contenus écrits par l’IA se multiplient en ligne, de nombreux auteurs estiment qu’elle risque de produire l’effet inverse en incitant les lecteurs à remettre les auteurs en question avant de s’interroger sur la technologie.
Les détracteurs ont décrit cette fonctionnalité comme une chasse aux sorcières, en invoquant les problèmes persistants de précision qui affectent les outils d’IA.
Loin de clore le débat sur les contenus générés par l’IA, ce déploiement a mis en lumière une question plus large en ligne : les systèmes de détection automatisés sont-ils suffisamment fiables pour être utilisés à grande échelle dans des contextes où les erreurs peuvent avoir de réelles conséquences humaines ?
L’outil de confiance auquel ses propres bénéficiaires se sont opposés
La levée de boucliers est venue d’une direction inattendue : précisément du groupe qui, selon Substack, a le plus à gagner avec cette fonctionnalité.
Selon 404 Media, de nombreux auteurs ont qualifié cette fonctionnalité de chasse aux sorcières, estimant qu’elle pourrait changer la manière dont les lecteurs abordent chaque article. Au lieu de se concentrer d’abord sur la qualité, les détracteurs craignent que les lecteurs commencent par se demander si le texte a été écrit par un humain.
« Je ne vais pas m’excuser d’utiliser l’IA dans mon processus de création », a dit un contributeur identifié comme étant Mack Collier. « J’ai écrit pendant 20 ans sans IA, je pourrais recommencer si je le voulais. »
Selon Collier, l’IA aide à structurer les textes et à accroître la production, tout en servant également d’éditeur.
Les auteurs qui n’utilisent pas l’IA s’inquiètent eux aussi que l’outil étiquette à tort leurs travaux. Alice Lemee, nègre littéraire et coach en écriture numérique, a déclaré qu’une seule fausse accusation pourrait laisser la réputation d’un auteur « presque irrémédiablement ternie ».
Le coût des erreurs de l’IA
Cette levée de boucliers ravive également une critique bien connue de l’IA : la confiance n’est pas toujours synonyme d’exactitude. Pangram est conçu pour détecter les textes générés par l’IA, mais il s’agit fondamentalement d’un système d’IA qui rend des jugements probabilistes sur la manière dont un contenu a été créé.
Max Spero, PDG de Pangram, a défendu les performances de l’outil, affirmant que l’entreprise estime son taux de faux positifs à environ un scan sur 10 000.
Sur le papier, cela semble constituer un taux d’erreur exceptionnellement faible. Mais ce chiffre prend une tout autre dimension lorsqu’on l’applique à une plateforme de la taille de Substack, où des millions d’articles, de commentaires et de notes pourraient à terme être analysés. Même un pourcentage infime d’erreurs pourrait se traduire par un nombre significatif d’auteurs injustement signalés.
Les produits de recherche IA de Google ont fait l’objet d’un examen similaire après qu’une expérience a montré que Gemini et AI Overviews pouvaient reprendre de fausses informations délibérément introduites, illustrant la manière dont les erreurs peuvent devenir plus lourdes de conséquences à grande échelle.
La leçon dépasse le cas de Substack
Le différend autour du détecteur d’IA de Substack reflète en définitive une question plus vaste à laquelle sont confrontées aussi bien les entreprises technologiques que les grandes organisations : quel degré de confiance faut-il accorder aux systèmes automatisés lorsque leurs décisions peuvent affecter des personnes bien réelles ?
La même inquiétude est revenue à plusieurs reprises à mesure que l’IA assume des rôles plus importants dans les systèmes de production.
Les entreprises de tous les secteurs étendent l’usage de l’IA au support client, à la détection des fraudes, au recrutement et à d’autres flux de travail où une seule décision erronée peut avoir des conséquences sur la réputation ou les finances.
Discord, par exemple, a récemment été critiqué après qu’un système de modération automatisé a sanctionné par erreur des utilisateurs légitimes.
Le déploiement de Substack ajoute un nouvel exemple à cette liste grandissante. Que le détecteur de Pangram se révèle très précis ou non, la levée de boucliers montre que les utilisateurs se préoccupent souvent moins de la fréquence à laquelle un système d’IA donne la bonne réponse que de ce qui se passe lorsqu’il se trompe.
Désormais, le défi ne consiste plus simplement à déployer l’IA. Il s’agit de déterminer le degré d’autonomie que ces systèmes devraient avoir dans les environnements de production.
À lire également : GPTZero a signalé des contenus potentiellement générés par l’IA ainsi que des citations peu fiables dans quatre rapports de PwC Middle East, et le cabinet a déclaré qu’il mettait à jour un nombre limité de citations justificatives.