Les AI Overviews de Google peuvent résumer le Web. Le problème, c’est que le Web peut mentir.
Google tente de s’attaquer à un problème grandissant au cœur de la recherche dopée à l’IA, après une enquête de la BBC ayant révélé que des contenus trompeurs en ligne peuvent influencer les réponses des AI Overviews de Google et d’autres chatbots majeurs. Ses règles anti-spam mises à jour incluent désormais explicitement les tentatives de manipulation des réponses générées par l’IA.
Le géant de la recherche affirme que cette formulation ne fait que clarifier des règles qu’il appliquait déjà. Mais à mesure que l’IA occupe davantage de place dans la recherche, le vieux problème du spam commence à prendre une autre dimension.
Un test absurde au défaut sérieux
Chatbots IA ne répondent pas toujours à partir de leur mémoire. Dans certains cas, ils explorent le Web en temps réel, récupèrent des informations auprès de sources en ligne et s’en servent pour élaborer une réponse.
Le journaliste de la BBC Thomas Germain a testé la fragilité de ce processus en publiant sur son site personnel un faux article affirmant qu’il était « champion du monde de la compétition de mangeurs de hot-dogs ». Dès le lendemain, a-t-il écrit, des outils d’IA comme ChatGPT, Gemini, et Google’s AI Overviews répétaient cette affirmation.
Il est peu probable que quiconque prenne une décision importante dans sa vie en se fondant sur un faux titre. Le propos de Germain était que la même méthode n’a pas besoin de rester aussi absurde.
Selon la BBC, des tactiques similaires sont apparues autour des compléments alimentaires et des informations financières liées à la retraite, où une page placée artificiellement ou biaisée peut causer bien plus de dégâts.
Un « monde de la réponse unique »
Le spam dans les moteurs de recherche traditionnels avait généralement un seul objectif : faire apparaître une page douteuse devant les utilisateurs et les pousser à cliquer.
La recherche dopée à l’IA, en revanche, modifie l’enjeu. Une affirmation faible ou placée artificiellement peut être intégrée à une réponse directe, laissant aux utilisateurs moins de sources concurrentes à consulter avant de décider à quoi se fier.
Une réponse unique peut sembler plus établie que ne le sont réellement les informations sur lesquelles elle repose. Lily Ray, fondatrice du cabinet de conseil en référencement et en recherche IA Algorythmic, a déclaré à la BBC que les utilisateurs devraient partir du principe qu’ils sont « manipulés » tant que de meilleurs systèmes ne seront pas en place.
« Nous nous dirigeons vers ce “monde de la réponse unique”, a déclaré Ray. Avant, Google vous donnait 10 liens bleus et vous faisiez plus ou moins vos propres recherches. Mais l’IA vous donne simplement une réponse. »
Harpreet Chatha, qui dirige le cabinet de conseil SEO Harps Digital, a averti que le problème pouvait rapidement passer des dommages économiques à des préjudices sanitaires ou juridiques. « À un niveau plus grave, vous pourriez suivre des conseils médicaux qui vous rendraient plus malade qu’avant, a déclaré Chatha. Sur le plan juridique, vous pourriez recevoir de mauvaises informations et faire quelque chose d’illégal dans votre État ou votre pays. »
Google élargit la cible
Le problème de la manipulation de l’IA devient plus difficile à résoudre à mesure que Google confie une plus grande part de l’expérience de recherche à l’IA.
Google enrichit la recherche avec des questions de suivi, des résultats générés et des agents d’information capables de surveiller le Web et d’envoyer des mises à jour synthétisées. Les liens sont toujours là, mais les utilisateurs sont orientés vers des réponses assemblées pour eux.
Lutter contre les abus devient plus difficile à mesure que cette couche de réponse s’étend. Une page manipulée n’a plus besoin de convaincre directement un lecteur ; il lui suffit peut-être de devenir un élément de la réponse que l’IA de Google fournit en premier.
Google a profité de l’I/O pour montrer Gemini s’étendant à presque tous les grands flux de travail, des agents de recherche à la génération d’applications.