Saisissez « nudify » dans une boutique d’apps, et le problème pourrait désormais vous attendre directement dans les résultats de recherche.
Apple et Google font face à de nouvelles accusations : leurs boutiques d’apps ne se contenteraient pas d’héberger des apps « nudify » — elles pourraient aussi aider les utilisateurs à les trouver.
Le Tech Transparency Project affirme que le problème s’est amplifié depuis janvier, date à laquelle il avait découvert que des dizaines de ces apps étaient toujours disponibles dans les boutiques d’Apple et de Google. Son dernier rapport indique que les apps apparues via ces systèmes avaient cumulé des centaines de millions de téléchargements, ce qui donne une nouvelle dimension aux questions sur la manière dont les entreprises pourraient orienter les utilisateurs vers ces apps.
Des centaines d’apps et des millions de revenus
Le mois de janvier avait déjà montré qu’il ne s’agissait pas d’un simple raté de modération. Le TTP a déclaré avoir trouvé plus de 100 apps dans les boutiques d’Apple et de Google capables de déshabiller des femmes sur des photos ou de les placer dans des images sexualisées.
Le rapport d’avril rend le même problème encore plus difficile à balayer d’un revers de main : une poignée de fiches problématiques a échappé au processus d’examen. Selon le TTP, les apps apparues dans ses dernières recherches avaient été téléchargées 483 millions de fois et avaient généré plus de 122 millions de dollars US de revenus cumulés, ce qui laisse penser qu’il s’agit d’une catégorie importante et active, plutôt que d’un secteur marginal de l’une ou l’autre boutique.
Une seule recherche pouvait en faire apparaître beaucoup d’autres
Les utilisateurs n’avaient pas besoin de chercher bien loin pour tomber dessus.
Le TTP a testé les deux boutiques avec des termes comme « nudify », « undress » et « deepnude », puis a examiné les premiers résultats affichés. Dans les deux boutiques, environ 40 % de ces apps pouvaient déshabiller des femmes, transformant une simple requête en rencontre répétée avec ces outils.
Une seule requête pouvait rapidement se multiplier. La boutique d’Apple place parfois des publicités pour des apps « nudify » en première position, tandis que Google Play associe des emplacements sponsorisés à un carrousel « Suggestions pour vous » contenant des apps à caractère sexuel explicite. La saisie semi-automatique prolongeait cette piste en faisant apparaître des termes de recherche associés qui conduisaient les utilisateurs vers d’autres résultats du même type.
Au lieu d’interrompre la recherche, les boutiques pouvaient continuer à l’alimenter. Une seule requête pouvait se transformer en une succession de publicités, de termes suggérés et d’autres résultats d’apps allant dans la même direction.
Les règles disaient une chose, mais les boutiques en montraient une autre
Apple et Google ne manquaient pourtant pas de règles écrites.
Google interdit les apps qui contiennent du contenu sexuel ou qui dégradent ou objectivent les personnes, notamment celles qui prétendent déshabiller quelqu’un ou voir à travers ses vêtements. Apple affirme que les apps ne devraient pas inclure de contenu offensant, pornographique ou « franchement glauque ». Pourtant, ces plateformes ont continué à faire apparaître des apps qui semblaient aller à l’encontre de ces règles.
Le problème dépassait ainsi la question de ce qui avait été approuvé. Certaines des apps repérées dans ces recherches étaient même considérées comme adaptées aux mineurs.
Les dernières conclusions du TTP ont soulevé de nouvelles questions sur le fonctionnement des classifications par âge, des validations publicitaires et des fonctions de recherche sur des plateformes qui affirment déjà que ce type de contenu ne devrait pas s’y trouver.
Google rapproche Gemini des usages quotidiens avec une nouvelle app native pour macOS.