Aller au contenu principal
Quel ATS

IA et règles

Un algorithme peut-il créer une discrimination à l’embauche ?

Pour qui : Votre ATS classe ou filtre des candidatures, ou va le faire. L’éditeur dit que son outil réduit les biais. Vous voulez savoir ce que vous risquez et comment le vérifier sur vos propres recrutements.

Oui. Un outil de tri peut écarter une personne pour une raison liée à son âge, son origine, son sexe ou son lieu de résidence, sans qu’aucune variable ne le dise en clair. Il en reproduit parfois les traces à partir des CV ou des recrutements passés.

Le recruteur reste tenu. Le guide de la CNIL rappelle le principe de non-discrimination de l’article L. 1132-1 du Code du travail. Statut : applicable, tel que le restitue la CNIL. Il écrit aussi que le recruteur doit s’assurer que l’outil ne retient que les aptitudes et la capacité à occuper le poste. Aucune de ces règles n’attend le 2 décembre 2027.

Notre avis

Oui. Le droit de la discrimination s’applique dès maintenant, et l’employeur reste tenu même quand le tri vient d’un outil acheté. Mesurez chez vous avant de vous fier à un audit d’éditeur.

Pourquoi

  • La page Employment de la Commission donne l’exemple d’un classement qui peut défavoriser selon le sexe ou le handicap.
  • Le guide de la CNIL demande d’éviter le profilage fondé sur des données discriminatoires ou sur leurs variables de substitution.
  • Le report du 2 décembre 2027 ne touche pas ces règles françaises.

Ce qui change le choix

Si vous n’utilisez aucun classement ni filtre automatique, le risque se déplace vers vos critères et vos entretiens, et la page sert moins. Dès qu’un écart reste inexpliqué, suspendez la fonction sur ce poste et faites analyser le cas.

L’ordre à suivre

  1. Regardez les critères réellement utilisés, avec leurs variables de substitution.
  2. Comparez les taux de passage sur vos propres données, sans en collecter de nouvelles qui soient sensibles.
  3. Relisez un échantillon de candidatures écartées.
  4. Lisez ensuite l’audit de l’éditeur, pour son périmètre.

Par où passe la discrimination dans un outil ?

Par le critère neutre en apparence. La CNIL appelle discrimination indirecte le cas où une disposition, un critère ou une pratique neutre désavantage particulièrement certaines personnes. Elle donne l’exemple d’une exigence de personne « expérimentée », qui peut viser l’âge si elle ne répond pas à un objectif légitime. Elle cite aussi le lieu de résidence parmi les critères, et l’étude d’impact du Sénat de septembre 2026 mentionne 26 critères à l’article L. 1132-1.

C’est aussi une question d’entrée. Le guide demande d’éviter le profilage fondé sur des données sensibles ou discriminatoires, ainsi que sur des variables de substitution. Une telle variable est un élément anodin qui permet de deviner autre chose : une adresse, une année de diplôme, une interruption de parcours. Masquer le nom ne règle pas ce point.

La Commission va dans le même sens, à un statut différent. Sa page Employment écrit qu’un classement peut conduire à mal classer ou à exclure selon le sexe ou le handicap. Statut : exemple à rattacher à un projet de lignes directrices, donc proposé.

Comment comparer les taux de passage ?

Exemple fictif : l’outil reçoit 200 candidatures sur un poste et retient 40 personnes pour la suite. 60 candidatures viennent d’une zone A, 6 sont retenues, soit 6 ÷ 60 = 10 %. 140 viennent d’une zone B, 34 sont retenues, soit 34 ÷ 140 = 24,3 %. Le contrôle des totaux tombe juste : 60 + 140 = 200 et 6 + 34 = 40.

Cet écart ne prouve rien à lui seul et ne fixe aucun seuil. Le poste peut justifier une condition de présence, et un petit effectif rend le chiffre instable. Il dit seulement où aller regarder.

  1. Choisissez une comparaison possible avec ce que vous avez déjà. Une zone, un type de parcours, une interruption de carrière. N’ajoutez pas de question sur l’origine ou la santé pour faire le test : voyez votre délégué à la protection des données d’abord.
  2. Isolez l’étape de l’outil. Comparez l’entrée et la sortie de l’étape où l’outil pèse, et non l’embauche finale.
  3. Relisez un échantillon d’écartés. Faites relire sans la note des candidatures mal classées. Comptez celles qu’un recruteur aurait gardées. Cette relecture ne suppose aucune donnée sensible.
  4. Remontez au critère. Demandez à l’éditeur quel élément a pesé. S’il ne peut pas répondre, vous ne pouvez pas écarter l’hypothèse.
  5. Décidez et écrivez. Critère retiré, fonction suspendue sur ce poste, ou maintien motivé. Datez la décision et reportez-la dans l’analyse d’impact.

Que vaut l’audit annoncé par l’éditeur ?

Il vaut pour ce qu’il mesure. Workday publie une analyse commandée à un tiers sur HiredScore Spotlight, avec un résultat d’absence d’impact disparate, sur des candidatures de résidents américains dans la région de New York à ses propres postes. Workday précise lui-même que cela ne répond à aucune obligation propre à un client. Greenhouse annonce des audits mensuels menés par Warden AI sur dix classes protégées, pour ses seules fonctions Talent Matching et AI Interviewer.

Ces éléments restent des déclarations d’éditeur et nous n’avons pas examiné les rapports. Ils peuvent vous aider à poser des questions : quels postes, quelle langue, quel pays, quelle version, quels groupes. Ils ne remplacent ni votre mesure ni votre responsabilité, et n’établissent aucune conformité.

Limites de cette page

Nous avons lu les articles L. 1132-1 et L. 1133-1 sur le Code du travail numérique du ministère, qui énumère les critères, dont l’âge et le lieu de résidence, mais pas sur Légifrance : vérifiez la version en vigueur avant de citer la liste. Le guide du Défenseur des droits cité par la CNIL et leur publication commune de 2020 n’ont pas été lus. L’article 4a du règlement sur l’IA, sur les données sensibles pour détecter les biais, n’a été vu que comme intitulé. La méthode de comparaison vient de nous, sans validation statistique. Si un candidat conteste, ou si un écart persiste, l’enjeu justifie un conseil.

Prochaine action

Sur votre dernier poste trié par un outil, faites le calcul d’entrée et de sortie et faites relire dix candidatures mal classées. Si vous n’avez aucun tri automatique, relisez vos critères d’annonce et vos questions d’entretien à la place.

Preuves et sources

Lu le 5 novembre 2026 : guide Recrutement de la CNIL (30 janvier 2023), fiches sur le tri automatisé et les discriminations ; page Employment de l’AI Act Service Desk de la Commission, à rattacher au projet de lignes directrices du 19 mai 2026 ; pages de Workday et de Greenhouse sur leurs audits. Articles L. 1132-1 et L. 1133-1 lus sur le Code du travail numérique du ministère, pas sur Légifrance ; le guide du Défenseur des droits sur les outils numériques n’a pas été lu.

Chaque élément ci-dessous dit s’il s’agit d’un fait lu dans une source, d’une déclaration d’éditeur, de notre calcul, de notre méthode ou de notre avis. Aucun logiciel n’a été testé. Notre méthode, connexions relevées et prix relevés.

  • Fait lu. La CNIL écrit que l’article L. 1132-1 pose un principe de non-discrimination qui interdit au recruteur d’écarter un candidat pour un certain nombre de motifs.

    Portée : France, guide du 30 janvier 2023.

    Réserve : Texte lu sur la reproduction du ministère, Légifrance non lu.

  • Fait lu. Le guide donne la définition de la discrimination indirecte et l’exemple d’une personne « expérimentée », et il cite le lieu de résidence parmi les critères.

    Portée : France, guide de 2023, définition reprise du Défenseur des droits.

    Réserve : Liste du guide, à vérifier sur le texte en vigueur.

  • Fait lu. L’étude d’impact du projet de loi Sénat n° 944 mentionne 26 critères posés à l’article L. 1132-1.

    Portée : France, document de septembre 2026.

    Réserve : Mention indirecte du nombre.

  • Fait lu. Selon la CNIL, il appartient au recruteur de s’assurer que l’outil ne retient que les aptitudes et la capacité à occuper le poste, sans biais, selon des critères clairs ; le manquement peut engager sa responsabilité.

    Portée : France, fiche sur le tri automatisé.

    Réserve : Lecture de l’autorité, qui n’a pas compétence pour qualifier une discrimination.

  • Fait lu. Parmi ses mesures de conformité, le guide demande d’éviter le profilage basé sur des données discriminatoires ou sensibles, ou sur des variables de substitution corrélées.

    Portée : France.

    Réserve : Les exemples d’adresse et de diplôme sont les nôtres.

  • Fait lu. La page Employment de la Commission indique qu’un outil de classement pourrait conduire à un mauvais classement ou à l’exclusion de candidats d’un certain sexe ou de candidats handicapés.

    Portée : UE, exemple à traiter comme proposé.

    Réserve : Interprétation non contraignante, version définitive non trouvée.

  • Fait lu. Le guide admet des différences de traitement répondant à une exigence professionnelle essentielle et déterminante, avec objectif légitime et exigence proportionnée, en citant l’article L. 1133-1.

    Portée : France.

    Réserve : Texte lu sur la reproduction du ministère, Légifrance non lu.

  • Déclaration de l’éditeur. Workday présente une analyse de HiredScore Spotlight sur des résidents américains de la région de New York pour ses propres postes et dit qu’elle ne répond pas aux obligations propres d’un client.

    Portée : Page de l’éditeur, États-Unis.

    Réserve : Rapport non examiné, sans portée pour un recrutement français.

  • Déclaration de l’éditeur. Greenhouse annonce des audits de biais mensuels indépendants par Warden AI sur dix classes protégées, pour ses fonctions Talent Matching et AI Interviewer.

    Portée : Page de l’éditeur, © 2026.

    Réserve : Résultats non examinés, classes et marché à vérifier.

  • Notre calcul ou déduction. Exemple fictif : 6 retenus sur 60 donnent 10 %, 34 retenus sur 140 donnent 24,3 %, pour un total de 40 retenus sur 200.

    Portée : Calcul sur une entreprise fictive.

    Réserve : Ni seuil, ni prévision, ni preuve de discrimination.

    Daté du 5 novembre 2026.

  • Notre méthode. Le protocole de comparaison et de relecture des candidatures écartées est une démarche proposée par la rédaction.

    Portée : À valider avec votre délégué à la protection des données.

    Réserve : Sans validation statistique.

    Daté du 5 novembre 2026.