Les systèmes de recrutement alimentés par l’IA augmentent la proportion de candidats noirs et asiatiques écartés, des recherches montrant que certains de ces outils conservent des biais humains inhérents.
Une nouvelle étude dirigée par des chercheurs de Stanford University montre que les employeurs utilisant la plateforme de recrutement Pymetrics, un outil de sélection par IA à grande échelle qui s’appuie sur des jeux en ligne dans le processus de candidature, présentaient des schémas de rejet systémiques et des biais similaires à ceux des humains. Elle a examiné un ensemble de données allant de décembre 2018 à décembre 2022 et couvrant 4 millions de candidatures auprès de 156 employeurs.
Selon l’article de recherche, environ un poste sur dix avait un « impact négatif » pour les candidats noirs et environ un sur vingt pour les candidats asiatiques. Bien qu’il ne s’agisse que d’une minorité de postes, ces offres représentaient une part bien plus importante des candidatures concernées, touchant 26 % des candidats noirs. Cela suggère que le biais était concentré dans les postes affichant les plus gros volumes de recrutement, ou dans ceux qui attiraient davantage de candidats noirs et asiatiques.
L’impact négatif est un terme utilisé par le gouvernement fédéral pour désigner le cas où un groupe racial, sexuel ou ethnique est sélectionné à un taux inférieur aux quatre cinquièmes de celui du groupe le plus sélectionné.
Outre les biais du modèle, les employeurs qui utilisent la plateforme Pymetrics s’appuient souvent sur la même architecture algorithmique pour sélectionner les candidats. Si un candidat était rejeté par une organisation, il avait davantage de chances de l’être par une autre utilisant le même algorithme. L’étude indique que 42 modèles étaient partagés entre les 156 employeurs.
L’explosion de l’utilisation de l’IA dans le recrutement
Bien que l’étude ait utilisé des données antérieures à l’explosion de l’utilisation de l’IA qui a suivi le lancement de ChatGPT, elle constitue une nouvelle étude très médiatisée montrant que les biais inhérents au recrutement s’intensifient au lieu d’être réduits par l’utilisation de l’IA. Cette évolution intervient alors que les candidats doivent se soumettre à un processus d’évaluation qui s’allonge, très peu d’entre eux atteignant le stade où ils échangent avec un humain.
L’utilisation de l’IA dans le processus de recrutement a considérablement augmenté ces dernières années. Selon la Society for Human Resource Management, l’adoption de l’IA dans les ressources humaines est passée de 26 % des organisations en 2024 à 43 % en 2025.
L’étude de Stanford n’est que l’une des nombreuses études qui ont montré que l’IA est loin d’être infaillible lorsqu’il s’agit de recrutement. Une étude menée par des chercheurs de l’University of Illinois et de l’Ahmedabad University a révélé que les recommandations de recrutement de l’IA favorisaient les hommes par rapport aux femmes, les femmes étant souvent recommandées pour des postes moins bien rémunérés.
Ajoutez à cela le fait que Workday, l’une des plus grandes entreprises de logiciels de ressources humaines, a récemment fait l’objet de poursuites pour des accusations selon lesquelles son logiciel de recrutement par IA écartait injustement des candidats, et il apparaît que nous sommes encore loin du rêve utopique d’une IA qui éliminerait les biais du recrutement.
Le règlement européen sur l’IA pour améliorer la qualité des systèmes de recrutement par IA
C’est notamment pour cette raison que le recrutement a été identifié comme un domaine clé à haut risque par le EU AI Act, qui exige des systèmes d’IA des garanties renforcées avant et pendant leur utilisation. Toute entreprise de recrutement ou tout employeur déployant une IA dans la région doit tenir à jour une documentation technique appropriée, assurer la transparence et mettre en place une supervision humaine afin de respecter les exigences.
Le règlement vise à la fois les entreprises qui déploient ces systèmes d’IA et les concepteurs de modèles, afin que les uns comme les autres redoublent de prudence lors de la conception, de l’entraînement et du déploiement de ces systèmes.
Certains signes laissent penser que les États-Unis pourraient s’orienter vers une réglementation plus large du recrutement par IA. New York, le Colorado et l’Illinois ont tous adopté des lois qui accroissent les risques liés à l’utilisation de systèmes d’IA pour le recrutement, avec des sanctions possibles si ces systèmes ne sont pas audités ou ne respectent pas certaines exigences clés. La Californie et d’autres États ont intégré les pratiques de recrutement par IA à leurs lois existantes, veillant ainsi à ce que les entreprises et les concepteurs de modèles d’IA respectent certaines exigences.
La question la plus importante n’est plus de savoir si l’IA peut accélérer le recrutement. Il s’agit de déterminer si les employeurs peuvent prouver que ces systèmes sont équitables, explicables et conformes avant qu’ils n’écartent des milliers de candidats du processus.
À lire également : pour en savoir plus sur la manière dont l’IA transforme le monde du travail, découvrez notre article sur les suppressions de postes de Cloudflare malgré un chiffre d’affaires record.