L’étude de Stanford sur le recrutement par IA met en lumière les risques d’iniquité pour les employeurs singapouriens qui utilisent des outils automatisés pour présélectionner et classer les candidats.
Une étude menée par Stanford sur le recrutement algorithmique a révélé des disparités raciales dans la manière dont une plateforme de présélection par IA traitait des millions de candidatures, soulevant de nouvelles questions pour les employeurs singapouriens qui utilisent des outils automatisés pour présélectionner les candidats.
Pymetrics est une plateforme de recrutement qui utilise des jeux en ligne et des modèles d’apprentissage automatique pour évaluer les candidats. L’ article de recherche, intitulé Algorithmic Monocultures in Hiring, a examiné plus de 4 millions de candidatures provenant d’environ 3,37 millions de candidats auprès de 156 employeurs entre décembre 2018 et décembre 2022.
Les chercheurs ont constaté que certains postes présentaient un impact négatif sur les candidats noirs et asiatiques au regard des normes américaines en matière de discrimination dans l’emploi. L’étude a également soulevé une préoccupation plus générale : lorsque de nombreux employeurs utilisent des algorithmes de recrutement similaires ou communs, les mêmes candidats peuvent être rejetés à plusieurs reprises avant qu’un recruteur humain n’examine leur candidature.
- Pourquoi ces résultats sont importants à Singapour
- La monoculture algorithmique est le risque le plus important
- Les règles en matière d’équité du recrutement fixent déjà des attentes
- Le cadre de gouvernance de l’IA de Singapour offre un point de départ
- Les recherches locales font état de préoccupations similaires
- Ce que les employeurs singapouriens devraient examiner
Pourquoi ces résultats sont importants à Singapour
Singapour s’est positionné comme un pôle régional pour l’adoption de l’IA, les services numériques et les technologies d’entreprise. Le recrutement est l’un des domaines où l’automatisation est attrayante. Les employeurs sont confrontés à un grand nombre de candidatures, à des pénuries de compétences dans les métiers technologiques et à la pression de réduire les coûts de recrutement.
Cela rend l’étude de Stanford pertinente pour les responsables RH, les équipes de conformité et les dirigeants d’entreprise à Singapour. Elle ne montre pas que les employeurs singapouriens utilisent les mêmes systèmes de la même manière. Mais elle met en évidence les risques qui peuvent apparaître lorsque des outils d’IA servent à classer, noter ou rejeter des candidats à grande échelle.
La main-d’œuvre singapourienne est multiculturelle et très internationale. Un système de recrutement qui produit des résultats biaisés, même sans utiliser de caractéristiques protégées explicites, pourrait entraîner des risques commerciaux, juridiques et réputationnels. La question n’est pas seulement de savoir si un modèle utilise directement la race, le genre, l’âge, la nationalité ou d’autres attributs sensibles. Il faut également déterminer si le système s’appuie sur des signaux indirects qui produisent des résultats injustes.
La monoculture algorithmique est le risque le plus important
Les chercheurs de Stanford se sont intéressés à ce qu’ils ont appelé la « monoculture algorithmique ». Dans le recrutement, cette expression désigne une situation dans laquelle de nombreux employeurs s’appuient sur le même fournisseur, la même structure de modèle, le même processus d’évaluation ou la même logique de notation.
Cela peut créer un goulot d’étranglement invisible sur le marché du travail. Si un candidat obtient de mauvais résultats avec un système de présélection, il peut connaître des résultats similaires auprès de plusieurs employeurs utilisant les mêmes outils ou des outils apparentés. L’étude indique que 42 modèles Pymetrics étaient partagés entre plusieurs employeurs. Elle a également constaté que certains candidats ayant postulé à 10 postes étaient recommandés pour un rejet dans chacun des cas.
Pour Singapour, cela soulève une question concrète en matière d’approvisionnement. Si plusieurs employeurs de différents secteurs (par exemple la finance, la technologie, les services professionnels ou la logistique) utilisent des systèmes d’évaluation similaires, l’effet pourrait dépasser le cadre du processus de recrutement d’une seule entreprise.
Un outil peut sembler efficace à l’échelle de l’employeur tout en créant des désavantages répétés pour certains candidats sur l’ensemble du marché de l’emploi.
Les règles en matière d’équité du recrutement fixent déjà des attentes
Les employeurs singapouriens sont déjà tenus d’éviter les pratiques de recrutement discriminatoires. Le Ministry of Manpower a mis en place le Fair Consideration Framework , qui exige des employeurs qu’ils prennent équitablement en considération la main-d’œuvre singapourienne. Ils ne doivent pas exercer de discrimination fondée sur des caractéristiques sans lien avec le poste, comme l’âge, le sexe, la nationalité ou la race. Les employeurs sont également censés respecter les Tripartite Guidelines on Fair Employment Practices.
Les outils d’IA pour le recrutement ne suppriment pas ces obligations. Si le système d’un fournisseur filtre injustement les candidats, les employeurs peuvent toujours devoir expliquer comment les critères de recrutement ont été choisis, si l’outil a été testé et comment les décisions ont été examinées.
Cela est particulièrement important pour les entreprises qui utilisent l’IA pour présélectionner des candidats en début de carrière, des candidats à des postes opérationnels à gros volume ou des candidats transfrontaliers. Dans ces domaines, les candidats peuvent avoir moins de possibilités de contester les décisions automatisées ou de présenter leur situation à un recruteur.
Le cadre de gouvernance de l’IA de Singapour offre un point de départ
Singapour a également élaboré des ressources de gouvernance de l’IA que les employeurs peuvent intégrer à leurs systèmes de recrutement. L’ AI Verify Testing Framework aide les entreprises à évaluer les systèmes d’IA au regard de principes tels que la transparence, l’explicabilité, l’équité, la gouvernance des données, la responsabilité et la supervision humaine.
Ces principes correspondent étroitement aux risques soulevés par l’étude de Stanford. Les employeurs qui utilisent l’IA dans le recrutement doivent être en mesure d’expliquer ce que mesure l’outil, quelles données il utilise, comment il a été testé et s’il produit des résultats différents selon les groupes de candidats.
Le Model AI Governance Framework for Generative AI souligne également l’importance de la responsabilité, de la qualité des données, d’un déploiement fiable, du signalement des incidents et des tests. Bien que l’étude de Stanford porte sur une plateforme de présélection fondée sur des jeux plutôt que sur un chatbot d’IA générative, la même logique de gouvernance s’applique : les systèmes qui influent sur les possibilités d’emploi nécessitent une supervision documentée.
Les recherches locales font état de préoccupations similaires
Des recherches menées spécifiquement à Singapour ont également examiné les biais dans le recrutement par IA. Un article publié en 2026, "Small Changes, Big Impact," a testé de grands modèles de langage sur des CV anonymisés dans le contexte singapourien. Les chercheurs ont constaté que, même lorsque les identifiants personnels explicites étaient supprimés, des éléments sans lien avec le poste, comme les langues, les activités extrascolaires, le bénévolat et les loisirs, pouvaient toujours servir de variables de substitution démographiques.
Cette conclusion est importante pour les employeurs qui supposent que l’anonymisation suffit à elle seule. Supprimer les noms peut réduire un risque, mais les modèles d’IA peuvent toujours déduire l’origine d’une personne à partir d’autres signaux.
Pour les équipes RH, la leçon est claire. Les tests ne doivent pas se limiter à vérifier qu’un outil ignore les champs démographiques évidents. Les employeurs doivent contrôler le comportement du système sur des profils réalistes de candidats singapouriens.
Ce que les employeurs singapouriens devraient examiner
Les entreprises qui utilisent l’IA dans le recrutement devraient commencer par déterminer à quels endroits l’automatisation intervient dans le parcours de recrutement. L’outil présélectionne-t-il les candidats avant qu’un recruteur ne les voie ? Classe-t-il les CV ? Génère-t-il des questions d’entretien ? Rejette-t-il automatiquement des candidats ?
Les employeurs devraient également demander aux fournisseurs des éléments attestant les tests de détection des biais, la documentation du modèle, son explicabilité et les processus d’examen humain. Les équipes internes devraient conserver une trace des critères de recrutement et des résultats des audits par poste, et éviter de considérer les scores des fournisseurs comme des faits neutres.
L’étude de Stanford ne signifie pas qu’il faille supprimer complètement l’IA du recrutement. Elle montre en revanche que la rapidité et l’échelle peuvent amplifier les injustices lorsque les systèmes sont mal testés ou réutilisés trop largement.
Pour les employeurs singapouriens, la question centrale n’est plus de savoir si l’IA peut accélérer le recrutement. Il s’agit de déterminer si l’organisation peut démontrer que ses systèmes de recrutement sont équitables, explicables et responsables avant que les candidats ne soient écartés.