Une nouvelle étude a révélé que les outils open source d’IA populaires utilisés dans les décisions de recrutement sont davantage susceptibles de recommander des hommes que des femmes, en particulier pour les postes les mieux rémunérés.
L’étude, dirigée par Sugat Chaturvedi de l’Ahmedabad University et Rochana Chaturvedi de l’University of Illinois, Chicago, a analysé la façon dont les grands modèles de langage (LLM) se comportent lorsqu’on leur demande de choisir entre des candidats et des candidates possédant les mêmes qualifications.
Dans leur article, « Who Gets the Callback? Generative AI and Gender Bias », les auteurs ont réalisé plus de 40 millions de simulations à partir de 332 044 offres d’emploi réelles publiées sur le portail National Career Services de l’Inde. Les résultats révèlent des schémas de biais de genre dans les recommandations de l’IA en matière de recrutement, soulevant de nouvelles inquiétudes concernant l’équité et l’égalité de traitement dans l’embauche.
« Nous constatons que la plupart des modèles reproduisent des associations de genre stéréotypées et recommandent systématiquement les femmes, pourtant tout aussi qualifiées, pour des postes moins rémunérés », écrivent les chercheurs dans leur étude.
Les hommes privilégiés pour les postes bien rémunérés
Les chercheurs ont testé six modèles open source largement utilisés (Llama-3-8B, Qwen2.5, Llama-3.1, Granite-3.1, Ministral-8B et Gemma-2) afin de déterminer à quelle fréquence chacun recommandait des femmes pour un entretien. Les résultats ont révélé de fortes variations :
- Ministral affichait le taux de convocation des femmes le plus faible, à seulement 1,4 %.
- Gemma affichait le taux de convocation le plus élevé, à 87,3 %.
- Llama, développé par Meta, semblait le plus équilibré : il recommandait des femmes dans 41 % des cas et refusait de formuler une recommandation genrée dans 6 % des cas, davantage que tout autre modèle.
Écart salarial et « personnalité » des modèles
Même lorsque des candidates étaient retenues, elles étaient davantage susceptibles d’être recommandées pour des postes moins rémunérés.
« Nous constatons que l’écart salarial est le plus faible pour Granite et Llama-3.1 (≈ 9 points logarithmiques pour chacun), suivis de Qwen (≈ 14 points logarithmiques), les femmes étant recommandées pour des postes moins rémunérés que les hommes », écrivent les chercheurs dans leur article. « La pénalité salariale liée au genre pour les femmes est la plus élevée avec Ministral (≈ 84 points logarithmiques) et Gemma (≈ 65 points logarithmiques). À l’inverse, Llama-3 applique une pénalité salariale aux hommes (et une prime salariale aux femmes) d’environ 15 points logarithmiques. »
L’étude a également révélé que les modèles d’IA orientaient les femmes vers des métiers « associés aux femmes », comme les soins à la personne et les services, tandis qu’ils dirigeaient les hommes vers la construction, l’extraction et d’autres domaines traditionnellement dominés par les hommes.
Pour comprendre pourquoi cela se produit, les chercheurs ont analysé le langage des offres d’emploi et constaté que les modèles d’IA correspondaient étroitement aux stéréotypes de genre intégrés au texte.
Fait notable, lorsque les chercheurs ont simulé différentes « personnalités » de recruteurs à l’aide de traits psychologiques connus sous le nom de Big Five (ouverture à l’expérience, caractère consciencieux, extraversion, agréabilité et névrosisme), ils ont constaté que les personas d’IA les moins agréables manifestaient moins de biais, ce qui suggère que les traits de personnalité utilisés dans les prompts d’IA peuvent influencer l’équité du recrutement.
Les risques cachés de l’automatisation du recrutement
Malgré les règles qui, dans de nombreux pays, interdisent les préférences liées au genre dans les offres d’emploi, environ 2 % des annonces du jeu de données indien mentionnaient explicitement une préférence. Les modèles d’IA avaient tendance à suivre fidèlement ces indications.
« Nous ne savons pas avec certitude quelles entreprises pourraient utiliser ces modèles », a déclaré Chaturvedi à The Register, ajoutant : « Les entreprises ne communiquent généralement pas ces informations et nos conclusions laissent entendre que de telles déclarations pourraient être essentielles pour se conformer aux réglementations sur l’IA. »
Ces conclusions ont relancé le débat sur l’éthique de l’IA dans les ressources humaines, alors que de plus en plus d’entreprises adoptent des outils automatisés pour trier de grands volumes de candidatures.
Comme Meta l’a reconnu lors de la présentation de son modèle Llama-4, les biais constituent un problème ancien : « Il est bien connu que tous les principaux LLM ont rencontré des problèmes de biais — en particulier, ils ont historiquement penché à gauche lorsqu’il s’agissait de sujets politiques et sociaux controversés », a déclaré la société, attribuant ce phénomène à la nature des données d’entraînement issues d’Internet.