Le biais IA à l’embauche dépasse celui des humains

Une étude de Princeton et de l’université de Chicago, présentée à ICML, montre que le biais IA à l’embauche est plus fort chez les grands modèles de langage que chez les humains quand ils trient des candidats. Les modèles de raisonnement les plus avancés sont aussi les plus biaisés, o3 atteignant un score de ségrégation de 1,83 contre 0,84 pour un panel humain.

Pour résumer

• Sur une simulation de recrutement, les LLM séparent les candidats par groupe ethnique plus vite et plus fort que les humains
• Les modèles de raisonnement, censés être les plus fiables, affichent le biais le plus élevé
• Le biais IA à l’embauche devient un risque juridique concret pour toute entreprise qui délègue son tri de CV à un modèle

Ce que l’étude a réellement mesuré

Le protocole est simple et c’est ce qui le rend gênant. Les chercheurs ont placé des modèles et des humains dans la même situation de tri, avec les mêmes informations limitées sur chaque candidat, puis ont observé comment chacun répartissait les postes.

Le résultat tient dans un chiffre. Sur une échelle de ségrégation mesurant à quel point les décisions séparent les candidats par groupe ethnique, les humains se situent à 0,84. Les modèles montent bien au-dessus, et o3, l’un des systèmes de raisonnement d’OpenAI, culmine à 1,83, soit plus du double du panel humain.

Le mécanisme est le point vraiment instructif. À partir de quelques résultats précoces, le modèle infère qu’un groupe « réussit » mieux à un poste, puis il verrouille cette conclusion et l’applique à tous les candidats suivants. Là où un recruteur humain hésite, tempère, doute, le modèle généralise sans frein. L’équipe a détaillé ce comportement dans l’article de recherche publié à ICML cette année.

Détail contre-intuitif que nous retenons : plus le modèle est « intelligent », plus il est biaisé. Les versions de raisonnement, vendues comme les plus prudentes, sont précisément celles qui creusent le plus l’écart.

Pourquoi un modèle discrimine plus vite qu’un humain

Il faut sortir de l’idée que le biais vient d’une « mauvaise donnée » à nettoyer. Ici, le problème est structurel.

Un LLM cherche le motif le plus rentable dans ce qu’il voit. Quand deux ou trois embauches d’un groupe se passent bien, il en tire une règle et l’optimise, parce que c’est exactement ce qu’on lui a appris à faire. Il n’a ni la prudence sociale, ni la peur du procès, ni le doute moral qui poussent un humain à se méfier d’une généralisation trop rapide.

C’est la même logique qui rend les modèles redoutables sur un jeu et dangereux sur une décision humaine. Nous avons déjà vu cette bascule quand un tri de licenciements attribué à une IA a fini devant un tribunal chez Meta. Le tri d’embauche pose exactement le même risque, en amont de la carrière au lieu de l’aval.

Pour les équipes RH, l’implication est directe. Un modèle branché sur un pipeline de recrutement ne réduit pas le biais humain, il l’industrialise et l’accélère, avec une apparence de neutralité technique qui le rend plus difficile à contester.

D’autres articles sur Horizon

• Moonshot coupe les ventes de Kimi, GPU saturés
• Le Japon vise 10 millions de robots IA d’ici 2040
• Alibaba lance Qwen 3.8, son plus gros modèle IA

Le risque juridique que personne n’a encore provisionné

C’est là que l’étude cesse d’être académique. Une discrimination à l’embauche est illégale dans la plupart des juridictions, que la décision vienne d’un manager ou d’un algorithme.

Côté entreprises, la course à l’automatisation du recrutement se heurte donc à un mur. Les mêmes sociétés qui poussent l’IA pour trier des milliers de candidatures découvrent qu’elles héritent aussi de la responsabilité juridique de ses choix. Cette tension rejoint ce que montrent déjà les données contradictoires sur l’effet réel de l’IA sur l’emploi, où l’automatisation promise se paie souvent en effets de bord.

Côté concurrence, l’étude rebat les cartes entre labs. Un fournisseur qui saura prouver un biais mesurablement plus faible sur ces tâches tiendra un argument commercial sérieux face aux DRH, pendant que les modèles de raisonnement les plus puissants deviennent, paradoxalement, les plus difficiles à vendre sur ce cas d’usage précis. Le sujet croise aussi la question du recrutement junior, déjà fragilisé quand les postes d’entrée se referment sous la pression de l’IA.

Notre lecture : l’audit de biais va devenir une brique obligatoire de tout produit RH sérieux, au même titre que la conformité RGPD. Les acheteurs qui signent aujourd’hui un outil de tri automatisé sans clause de mesure de biais prennent un risque qu’ils n’ont pas encore chiffré.

Affaire à suivre sur Horizon.