Les efforts de Google pour rendre Search toujours plus piloté par l’IA font l’objet d’un nouvel examen concernant la capacité de ces outils à protéger les utilisateurs les plus jeunes.
Le Youth AI Safety Institute de Common Sense Media a estimé que AI Overviews et AI Mode présentaient un « risque inacceptable » pour les mineurs après avoir testé ces fonctionnalités avec des comptes enfants utilisant les protections par défaut de Google. Google a contesté ces conclusions, affirmant que les tests ne reflétaient pas le comportement habituel des utilisateurs.
Ce désaccord met en évidence un défi plus vaste, alors que les réponses générées par l’IA deviennent une source d’information de premier plan pour les enfants et les adolescents.
Ce que l’organisation affirme avoir découvert
Les fonctionnalités de recherche IA de Google n’ont pas reçu la mention « risque inacceptable » en raison d’une seule réponse défaillante. Common Sense Media a plutôt expliqué que cette désignation faisait suite à une évaluation plus large de la manière dont AI Overviews et AI Mode répondaient à des centaines de requêtes de test réparties dans plusieurs catégories de sécurité.
L’organisation a indiqué avoir utilisé des comptes Google pour des enfants âgés de 11 et 15 ans, avec les protections intégrées de l’entreprise activées, et avoir effectué plus de 2 600 recherches et évalué plus de 2 100 réponses générées par l’IA. Dans un rapport détaillant le processus de recherche, Common Sense Media a relevé que Google Search AI comme AI mode révélaient à plusieurs reprises des lacunes dans plusieurs domaines.
Les rapports mettent notamment en évidence des cas où les outils aidaient à faire les devoirs au lieu d’aider l’utilisateur à apprendre, ne détectaient pas les « signes d’idées suicidaires » et présentaient des informations inexactes.
Selon une étude distincte de l’organisation, 75 % des préadolescents et adolescents américains utilisent déjà des réponses générées par l’IA dans les résultats de recherche, tandis que Google reste le moteur de recherche dominant. Dans ce contexte, Common Sense Media estime que les lacunes de la recherche IA de Google sont plus préoccupantes, car cette fonctionnalité est profondément intégrée à Search et difficile à désactiver pour les parents et les établissements scolaires.
Google affirme que ces accusations sont sans fondement
Google a rejeté les conclusions du rapport, estimant que les tests ne représentaient pas fidèlement la manière dont les utilisateurs interagissent avec ses fonctionnalités de recherche dopées à l’IA. Dans une déclaration à Android Authority, l’entreprise a affirmé que bon nombre des requêtes utilisées lors de l’évaluation étaient « ambiguës et artificielles », ce qui rendait les résultats peu représentatifs d’une utilisation réelle.
Dans une réponse distincte adressée à PBS News, le géant de la technologie a souligné que ces outils d’IA « constituent un moyen extrêmement utile pour les enfants et les adolescents d’apprendre, d’explorer et de comprendre l’information et le monde qui les entoure ». Dans la même déclaration, Google a également précisé que les parents pouvaient désactiver les outils d’IA.
L’entreprise a également contesté la légitimité des tests, précisant que plusieurs exemples mis en avant dans le rapport ne pouvaient pas être reproduits en interne, d’après un article du New York Times. Google a soutenu que les problèmes signalés ne pouvaient pas être reproduits de manière fiable, un élément essentiel pour vérifier et corriger d’éventuelles failles.
Des implications plus larges
Selon Android Authority, Common Sense Media a également testé d’autres outils d’IA et a conclu qu’ils présentaient des risques inacceptables, ce qui laisse penser que les inquiétudes dépassent le cadre de Google Search.
Pour Google, ces conclusions revêtent toutefois une importance particulière, car AI Overviews et AI Mode sont profondément intégrés au moteur de recherche le plus utilisé au monde. À mesure que les réponses générées par l’IA deviennent le moyen par défaut pour les internautes, y compris les enfants, d’accéder à l’information en ligne, les questions de sécurité, d’exactitude et d’adaptation à l’âge devraient faire l’objet d’une attention accrue de la part des parents, des enseignants et des autorités de régulation.
Même si le rapport n’a pas de portée juridique, il pourrait influencer la manière dont les plateformes de recherche IA conçoivent leurs garde-fous de sécurité et démontrent l’efficacité constante de leurs protections pour les utilisateurs les plus jeunes. Alors que l’IA devient la porte d’entrée du Web, la sécurité des enfants pourrait devenir un critère aussi important pour évaluer ces outils que la qualité ou la rapidité des réponses.
Autres actualités : Google fait face à une nouvelle action en justice pour atteinte aux droits d’auteur intentée par de grands éditeurs et l’auteur Scott Turow, ce qui intensifie la bataille juridique autour de la question de savoir si Gemini a été entraîné sur des livres protégés par le droit d’auteur sans autorisation.