NewsGuard, un service d’évaluation de la fiabilité de l’information, a rapporté que les principaux chatbots d’IA générative — notamment ChatGPT d’OpenAI, Gemini de Google et Copilot de Microsoft — diffusent involontairement de la propagande russe. Ces conclusions indiquent que ces systèmes ont été influencés par un réseau de désinformation basé à Moscou, connu sous le nom de Pravda, qui les a inondés de récits mensongers.
Un récent audit de chatbots IA développés par de grandes entreprises technologiques a révélé qu’ils reprenaient fréquemment de la désinformation russe, ces affirmations trompeuses apparaissant dans environ 33 % des réponses des chatbots. Ces conclusions viennent renforcer les inquiétudes croissantes concernant la désinformation générée par l’IA, notamment parce que des réseaux comme Pravda ciblent ces modèles pour manipuler leurs résultats.
Pravda : comment manipule-t-il l’IA ?
Pravda est un réseau d’environ 150 sites web qui diffusent de la propagande pro-Kremlin en agrégeant des contenus issus de médias russes contrôlés par l’État et de sources gouvernementales. Créé en 2022, il cherche à influencer le débat mondial en inondant Internet d’affirmations mensongères, comme des accusations infondées concernant des laboratoires américains d’armes biologiques en Ukraine et le prétendu détournement par le président ukrainien Volodymyr Zelenskyy de l’aide militaire américaine. Ces affirmations fabriquées se sont infiltrées dans les chatbots IA et ont contaminé leurs réponses avec de la désinformation.
Également appelé Portal Kombat, Pravda trompe délibérément les moteurs de recherche et les robots d’indexation afin d’intégrer sa propagande aux jeux de données d’entraînement de l’IA. En exploitant les algorithmes de classement, il influence subtilement les réponses des chatbots IA, qui finissent par perpétuer la désinformation. Rien qu’en 2024, l’immense réseau de Pravda a contribué plus de 3,6 millions d’articles, selon l’American Sunlight Project. Ces conclusions, ainsi que le rapport de NewsGuard, montrent comment des affirmations trompeuses non vérifiées compromettent l’intégrité des contenus générés par l’IA.
Peut-on faire confiance à l’IA ? Des inquiétudes croissantes concernant sa fiabilité
La manipulation des chatbots d’IA générative de grandes entreprises de l’IA comme OpenAI, Google et Microsoft soulève de sérieuses inquiétudes quant à la fiabilité des contenus générés par l’IA. Malgré les ressources considérables et les mécanismes de protection de ces entreprises, leurs solutions d’IA restent vulnérables aux campagnes de désinformation. Compte tenu de la portée mondiale de ces plateformes, ce problème jette le doute sur la fiabilité des réponses de l’IA et sur leur capacité à écarter les récits trompeurs.
Protéger votre organisation contre la désinformation générée par l’IA
Alors que de plus en plus d’entreprises s’appuient sur l’intelligence artificielle pour leurs activités quotidiennes, le risque de voir de fausses informations corrompre les outils d’IA de l’entreprise augmente. Une désinformation non contrôlée peut éroder la confiance, induire les employés en erreur et nuire à la crédibilité de l’entreprise. Pour atténuer la désinformation générée par l’IA, les organisations devraient mettre en place des audits rigoureux, imposer une validation des données en temps réel et former leurs équipes à repérer et corriger immédiatement les contenus inexacts générés par l’IA.