Tri automatique des CV, scoring des candidatures, entretiens vidéo analysés, chatbots de présélection… L’intelligence artificielle s’est installée dans les services RH bien plus vite que les règles censées l’encadrer. Une question reste souvent sans réponse : ces outils traitent-ils tous les candidats de la même façon ?
A. Un algorithme apprend… nos biais
Un outil de tri apprend à partir des recrutements passés. Si ceux-ci étaient biaisés, l’outil reproduit le biais, à grande échelle et avec une apparence d’objectivité. Le cas le plus connu reste celui d’Amazon, qui a abandonné en 2018 un outil de tri de CV qui pénalisait les candidatures féminines, simplement parce qu’il avait été entraîné sur dix ans de recrutements majoritairement masculins.
Pas besoin que l’algorithme « connaisse » l’origine d’un candidat pour discriminer. Le prénom, l’adresse, l’établissement scolaire ou certaines expériences associatives peuvent servir de variables de substitution. Dès 2020, le Défenseur des droits et la CNIL alertaient sur ce risque d’« automatisation des discriminations ».
Aux États-Unis, le contentieux a commencé : dans l’affaire Mobley c. Workday, un tribunal fédéral a autorisé en 2025 une action collective visant un logiciel de présélection accusé de discriminer les candidats selon leur âge.
B. Ce que dit le droit (et ce qui est reporté)
- Le Code du travail s’applique déjà. L’article L. 1132-1 interdit d’écarter un candidat pour un motif discriminatoire, que la décision soit prise par un humain ou par un logiciel. Et c’est l’employeur qui répond de l’outil qu’il utilise, pas son fournisseur.
- Le RGPD aussi. Son article 22 encadre strictement les décisions entièrement automatisées. Un rejet de candidature sans intervention humaine réelle peut en relever.
- L’AI Act classe les outils de recrutement parmi les systèmes « à haut risque ». Les obligations correspondantes (gestion des risques, qualité des données, contrôle humain, documentation) devaient s’appliquer en août 2026. Elles ont été reportées à décembre 2027.
Ce report n’est pas un sursis pour les discriminations. Le risque juridique et le risque pour la réputation existent dès aujourd’hui. Le Gouvernement a d’ailleurs annoncé qu’il examinerait les risques de discrimination liés à ces outils dans le prolongement de sa dernière campagne de testing.
C. Le testing, meilleur audit d’un algorithme
On peut passer des semaines à demander au fournisseur comment fonctionne son modèle. On peut aussi mesurer ce qu’il produit. C’est le principe du testing : soumettre à l’outil des candidatures strictement équivalentes qui ne diffèrent que par un critère (le prénom, le nom, l’adresse, le sexe, l’âge…), puis comparer les scores ou les classements obtenus.
Cette approche a trois avantages : elle ne nécessite pas d’accéder au code, elle mesure les effets réels et non les intentions, et elle peut être répétée à chaque mise à jour du modèle.
D. Cinq questions à poser à votre fournisseur
- Sur quelles données l’outil a-t-il été entraîné ?
- Quels tests de biais ont été réalisés, sur quels critères, et avec quels résultats ?
- Quelles variables sont utilisées pour classer les candidats ?
- Où intervient l’humain, et peut-il revenir sur la décision de l’outil ?
- Acceptez-vous un audit indépendant par testing ?
Si les réponses restent floues, c’est déjà une information.
Vous utilisez ou envisagez un outil de recrutement automatisé ? Nous pouvons en tester les effets. Découvrez notre offre de testing ou contactez-nous.
Etienne Allais