Les outils d’écriture dopés à l’IA promettent de démocratiser la communication en aidant les utilisateurs à écrire plus vite, plus clairement et avec davantage d’assurance. Mais à mesure que ces outils d’IA se mondialisent, un nombre croissant de travaux de recherche avertissent qu’ils pourraient remodeler l’identité culturelle de manière subtile, mais significative.
- Les outils d’écriture IA homogénéisent les voix du monde entier
- Les stéréotypes culturels véhiculés par les suggestions prédictives
- Comment l’étude de Cornell sur les assistants d’écriture IA a été conçue
- Des normes occidentales intégrées aux paramètres par défaut de l’IA
- Les inquiétudes grandissantes liées au « colonialisme de l’IA »
Les outils d’écriture IA homogénéisent les voix du monde entier
Une nouvelle étude de Cornell a identifié un effet inattendu de la portée internationale des assistants d’IA : ils homogénéisent le langage, faisant sonner les milliards d’utilisateurs des pays du Sud global davantage comme des Américains.
Dans le cadre de l’étude, les participants américains et indiens qui utilisaient un assistant d’écriture IA produisaient des textes plus similaires que ceux qui écrivaient sans assistant. Les participants indiens consacraient également davantage de temps à modifier les suggestions de l’IA afin de mieux refléter leur contexte culturel, ce qui réduisait finalement les gains de productivité globaux apportés par l’outil.
Les stéréotypes culturels véhiculés par les suggestions prédictives
« Il s’agit de l’une des premières études, si ce n’est la première, à montrer que l’utilisation de l’IA dans l’écriture pourrait conduire à des stéréotypes culturels et à une homogénéisation linguistique », a déclaré Aditya Vashistha, professeur adjoint en sciences de l’information et auteur principal de l’étude.
« Les gens commencent à écrire comme les autres, et ce n’est pas ce que nous voulons », a ajouté Vashistha. « L’une des belles choses dans le monde, c’est la diversité qui est la nôtre. »
Comment l’étude de Cornell sur les assistants d’écriture IA a été conçue
L’étude de Cornell a réuni 118 participants — environ la moitié venant des États-Unis et l’autre moitié d’Inde. Les participants ont ensuite été invités à écrire sur des sujets culturels : dans chaque pays, la moitié a écrit de manière indépendante et l’autre moitié a utilisé des assistants d’IA.
Les participants indiens utilisant l’assistant d’écriture IA ont accepté environ 25 % des suggestions de l’outil, contre près de 19 % pour les rédacteurs américains. Cependant, les Indiens étaient bien plus susceptibles de modifier les suggestions pour les adapter à leur style d’écriture culturel, ce qui rendait l’outil nettement moins utile.
Des normes occidentales intégrées aux paramètres par défaut de l’IA
Par exemple, lorsque les participants ont écrit sur leur plat et leur fête préférés, l’assistant IA leur a recommandé des choix typiquement américains, notamment la pizza et Noël. Et lorsqu’ils ont écrit sur leurs acteurs préférés, les Indiens qui ont commencé à taper « S » ont reçu des suggestions comme Shaquille O’Neil ou Scarlett Johansson, plutôt que le célèbre acteur de Bollywood Shah Rukh Khan.
Cette tendance occidentale pourrait s’expliquer par le fait que les assistants d’IA comme ChatGPT sont alimentés par de grands modèles de langage (LLM) développés par des entreprises technologiques américaines. Ces outils sont désormais utilisés dans le monde entier, notamment par 85 % de la population mondiale vivant dans le Sud global.
Les inquiétudes grandissantes liées au « colonialisme de l’IA »
Les chercheurs estiment que les utilisateurs indiens sont désormais confrontés à un « colonialisme de l’IA », les biais de ces assistants présentant la culture occidentale comme supérieure. Cela pourrait modifier non seulement la manière dont les utilisateurs non occidentaux écrivent, mais aussi leur façon de penser.
« Ces technologies apportent évidemment beaucoup de valeur dans la vie des gens », a déclaré Paromita Agarwal, coautrice de l’étude. « Mais pour que cette valeur soit équitable et que ces produits réussissent sur ces marchés, les entreprises technologiques doivent se concentrer sur les aspects culturels, plutôt que sur les seuls aspects linguistiques. »
Le rédacteur collaborateur de TechnologyAdvice Michael Kurko a écrit cet article.