GPT-4 a surpassé des adversaires humains dans 64 % des débats structurés, selon une nouvelle étude publiée dans Nature Human Behaviour, un résultat que les chercheurs ont qualifié de « fascinant et terrifiant à la fois ». L’étude a également révélé que, lorsque les arguments étaient adaptés à chaque participant, l’IA avait 81 % plus de chances de faire évoluer les opinions, ce qui soulève des inquiétudes quant au potentiel de détournement de cette technologie.
Comment les chercheurs ont testé la persuasion de l’IA
Les chercheurs ont testé le pouvoir de persuasion de GPT-4 dans des débats impliquant 900 participants afin d’évaluer dans quelle mesure le modèle d’IA pouvait faire évoluer les opinions face à des humains. Les participants ont été répartis aléatoirement pour débattre avec une personne ou GPT-4 sur des sujets sociopolitiques auxquels ils étaient très, modérément ou peu attachés. Dans certains cas, l’IA ou l’interlocuteur humain avait accès aux données sociodémographiques des participants afin d’adapter ses arguments.
Les débats se sont déroulés en ligne, selon un format structuré en plusieurs manches. Les chercheurs ont étudié l’influence de facteurs tels que le type d’adversaire, l’accès aux données personnelles et l’intensité du rapport au sujet sur les résultats, en mesurant l’évolution des opinions des participants avant et après chaque débat.
Les arguments personnalisés de l’IA entraînent des changements d’opinion plus importants
L’étude a également révélé que le pouvoir de persuasion de l’IA était démultiplié lorsqu’elle pouvait adapter ses arguments à partir de données personnelles des participants, telles que leur âge, leur genre et leur affiliation politique. GPT-4 devait utiliser ces informations de manière stratégique afin de formuler des arguments plus convaincants.
Lorsqu’elle personnalisait ses réponses, l’IA surpassait les adversaires humains dans 64,4 % des débats aux résultats nets et augmentait significativement de 81 % les chances de faire évoluer les opinions par rapport aux débats entre deux humains. Fait notable, les chercheurs ont constaté que GPT-4 utilisait les informations personnelles plus efficacement que les débatteurs humains et que ni les humains ni l’IA non personnalisée ne bénéficiaient substantiellement de l’accès aux mêmes données.
L’IA peut-elle changer vos convictions ?
Ces résultats font écho à des études précédentes. Une autre étude publiée dans Proceedings of the National Academy of Sciences (PNAS) a constaté que les arguments générés par l’IA n’influencent pas seulement les attitudes politiques. Une étude du MIT et de Cornell a également constaté que les dialogues pilotés par l’IA réduisaient de 20 % les croyances complotistes, avec des effets persistants pendant au moins deux mois.
Ensemble, ces résultats montrent que les outils d’IA, surtout lorsque les réponses sont adaptées aux individus, ne se contentent pas d’informer. Ils peuvent façonner ce que les gens croient et la force avec laquelle ils défendent ces croyances.
Les enjeux élevés de la persuasion par l’IA
Ces découvertes mettent en lumière de graves inquiétudes quant au rôle futur de l’intelligence artificielle dans la formation de l’opinion publique. Francesco Salvi, coauteur de l’étude publiée dans Nature Human Behaviour, a averti qu’une fois que les gens auront compris à quel point les grands modèles de langage (LLM) peuvent se montrer persuasifs, ils commenceront à les utiliser, une issue qu’il a qualifiée de fascinante et terrifiante à la fois.
Sans garde-fous solides, l’IA pourrait être détournée pour influencer les élections, alimenter la désinformation ou manipuler les décisions personnelles à grande échelle.