Le géant technologique auquel tout le monde fait confiance pour obtenir des réponses pourrait être devenu un danger pour la santé.
Après les révélations de la semaine dernière, Google a discrètement retiré plusieurs résumés de santé générés par l’IA, après que des enquêtes menées par The Guardian ont révélé une dangereuse désinformation qui pourrait littéralement tuer des patients. Les experts de la santé la qualifient d’« alarmante » et de « dangereuse ».
La fonctionnalité AI Overviews de Google fournit instantanément des conseils médicaux à des millions de personnes grâce à sa part dominante de 91 % du marché de la recherche. Mais lorsque des internautes ont recherché des informations cruciales sur les tests hépatiques, l’IA a fourni des recommandations potentiellement mortelles sans tenir compte de facteurs liés à l’âge, au sexe ou à l’origine ethnique, qui, comme l’ont confirmé des professionnels de santé, pourraient amener des patients gravement malades à renoncer à un suivi salvateur.
Les erreurs mortelles qui ont contraint Google à réagir
The Guardian a constaté que Google fournissait des conseils alimentaires incorrects sur le cancer du pancréas, susceptibles de provoquer une malnutrition, tandis que les résultats des tests de la fonction hépatique étaient présentés comme des normes universelles alors qu’ils varient en réalité considérablement selon les caractéristiques démographiques des patients.
Vanessa Hebditch, du British Liver Trust, a déclaré aux journalistes que les résumés de l’IA présentent les chiffres des tests en caractères gras, ce qui permet dangereusement aux patients de ne pas voir que ces fourchettes pourraient ne pas s’appliquer à leur situation particulière. Les résumés ne précisaient pas que des personnes peuvent obtenir des résultats d’analyse normaux tout en nécessitant une intervention médicale urgente pour une maladie hépatique grave.
Les associations de santé ont réagi en quelques heures, se disant alarmées à l’idée que des patients puissent retarder des décisions médicales cruciales sur la base d’une désinformation générée par l’IA, qui semble faire autorité en tête des résultats de recherche.
Ce que Google ne vous dit pas
La réponse de Google révèle de troublantes lacunes dans ses mesures de sécurité. Si l’entreprise a supprimé AI Overviews pour certaines recherches liées au foie, les enquêtes montrent que des requêtes légèrement différentes déclenchent toujours les mêmes résumés dangereux. Un porte-parole de Google a déclaré à The Independent que l’entreprise ne commentait pas les suppressions individuelles, ce qui soulève des questions sur sa transparence.
L’examen interne de l’entreprise a révélé que de nombreuses réponses de l’IA étaient techniquement étayées par des « sites web de qualité », selon les articles de presse. Mais les experts estiment que cela passe complètement à côté du problème : lorsque des vies sont en jeu, le contexte et la personnalisation comptent davantage que la précision brute.
Analyse de la semaine dernière : AI Overviews apparaît dans jusqu’à 30 % des recherches, tandis que des informations de santé que les experts qualifient de « complètement fausses » et de « vraiment dangereuses » continuent d’apparaître pour des requêtes sur le cancer et la santé mentale.
Pourquoi c’est important
Les conséquences dépassent largement le cadre de la plateforme de Google. Une étude menée l’an dernier par Stanford et Harvard a révélé que les principaux modèles d’IA produisent des recommandations médicales dangereuses dans jusqu’à 22 % des cas, principalement en raison d’omissions risquées plutôt que d’erreurs manifestes.
Cette crise montre comment les entreprises d’IA ont privilégié la vitesse au détriment de la sécurité dans la course au déploiement de fonctionnalités génératives. Les discussions du secteur laissent penser que les tests dans le domaine de la santé sont insuffisants, tandis que les législateurs réclament désormais des avertissements obligatoires pour les contenus de santé générés par l’IA.
Alors que les acteurs du secteur technologique soulignent l’urgence d’agir pour empêcher la désinformation générée par l’IA de causer des dommages concrets, des millions de personnes continuent de se tourner vers Google pour obtenir des conseils médicaux.
Ces révélations montrent à quelle vitesse l’innovation en matière d’IA peut passer du statut d’outil utile à celui de responsabilité potentiellement mortelle — et la course de Google pour réparer les dégâts montre que cette crise est loin d’être terminée.
Alors que plus de développeurs que jamais utilisent Tailwind CSS, l’entreprise qui en est à l’origine se réduit rapidement… et l’IA est en cause.