Aller au contenu principal
Quel ATS

IA et règles

Que veut dire un contrôle humain réel sur un tri par IA ?

Pour qui : Votre éditeur répète qu’« un humain garde la décision ». Vous voulez savoir ce qu’il faudrait constater pour que cela soit vrai chez vous.

Un contrôle humain réel suppose trois choses : une personne compétente, le pouvoir de passer outre, et le temps de regarder ce que l’outil a placé en bas de liste. Ce dernier point se vérifie facilement.

Ce contrôle ne fait pas sortir le système du haut risque. La Commission classe un outil de rapprochement alors même que le recruteur garde la main, dans un exemple d’une page que nous rattachons à son projet du 19 mai 2026, document proposé. Les articles 14 et 26 sont adoptés, et applicables à une fonction de l’annexe III le 2 décembre 2027. Vous pouvez mettre le protocole ci-dessous en place dès maintenant.

Notre avis

Un contrôle réel, c’est le pouvoir et le temps de relire les candidats mal classés. Il est nécessaire, et il ne retire pas le classement à haut risque.

Pourquoi

  • La Commission classe à haut risque un outil malgré un recruteur qui peut passer outre.
  • La CNIL regarde si les candidats non consultés sont de fait exclus.
  • Seule une relecture des mal classés révèle ce que l’outil a écarté à tort.

Ce qui change le choix

Si personne n’a le temps de lire au-delà du haut de la liste, le contrôle n’existe pas : réduisez l’usage du classement ou passez à une lecture sans score.

L’ordre à suivre

  1. Quelqu’un relit vraiment un échantillon de candidats mal classés : condition minimale.
  2. La personne peut passer outre, sans justification hiérarchique pesante.
  3. Le résultat de ces relectures change quelque chose : réglage ou arrêt.

Que demandent les articles 14 et 26 ?

L’article 14 §4, à la charge de celui qui conçoit le système, vise des personnes en mesure de comprendre ses limites, de rester attentives au biais d’automatisation, c’est-à-dire la tendance à suivre la machine, d’interpréter la sortie, et de ne pas la suivre, de l’annuler ou d’arrêter le système. L’article 26 §2 demande au déployeur de confier ce contrôle à des personnes qui ont la compétence, la formation, l’autorité et le soutien nécessaires.

La Commission écrit, à propos d’une vérification d’antécédents, que la revue humaine, formellement présente, n’empêche pas la sortie d’influencer fortement le parcours. La généralisation à tout tri est notre lecture. La CNIL ajoute, sur le RGPD, qu’une décision peut être vue comme prise sans intervention humaine si le responsable ne peut pas expliciter ses motifs.

Relire un échantillon de candidats mal classés

Ce protocole est le nôtre. Il coûte peu, et rien de ce qu’il produit ne vaut preuve d’absence de biais.

Exemple fictif : l’entreprise A reçoit 240 candidatures sur un poste, et sa recruteuse lit les 30 premières. Il en reste 240 − 30 = 210 jamais lues. Elle en tire une sur dix au hasard, soit 210 ÷ 10 = 21 dossiers, sans voir leur score. Elle en retient 3 qu’elle aurait reçues en entretien. 3 ÷ 21 = 1 sur 7, soit environ 14,3 %. Ce chiffre ne fixe aucun seuil et ne prédit rien. Il sert à une chose : montrer que le bas de liste contient des personnes qu’elle aurait voulu voir, et ouvrir la discussion avec l’éditeur.

  1. Tirer les dossiers au hasard. Parmi les candidatures non lues, score masqué, sans choisir les profils.
  2. Décider avant de regarder le score. Sinon la relecture confirme la machine.
  3. Écrire le résultat. Date, poste, nombre relu, nombre repêché. Conservez-le selon votre durée de conservation.
  4. Agir sur le résultat. Revoir les critères, réduire le rôle du score ou couper la fonction. Une relecture sans suite ne compte pas.

Quatre questions à poser en démonstration

Peut-on masquer le score pendant la lecture ? Le classement peut-il être remplacé par un ordre neutre, chronologique ou aléatoire ? Voit-on les motifs de la note pour un candidat donné ? Qui peut arrêter la fonction, et en combien d’actions ? Ces questions traduisent l’article 14 §4 en gestes visibles. Une réponse par une phrase de principe, comme « le recruteur reste décisionnaire », ne dit rien de l’écran.

Limites de cette page

Aucun de ces contrôles n’a été testé par nous sur un outil. Le protocole ne vaut pas conformité, et il n’établit pas l’absence de discrimination, qui s’évalue autrement. Le JO du règlement 2026/1744 et le PDF du projet de lignes directrices n’ont pas été lus. L’article 26 ne s’applique pas encore à la date de lecture ; pour un système déjà mis sur le marché ou en service avant le 2 décembre 2027, l’article 111 §2, lu sur le site de la Commission, ne le vise qu’en cas de changement significatif de conception, hors usage par une autorité publique.

Prochaine action

Choisissez un recrutement avec tri ou classement en cours ou récent, et faites relire un échantillon de candidats non lus, score masqué. Écrivez le résultat et ce que vous en faites. Si personne n’a le temps de le faire, retirez le classement de l’écran de lecture. Sans tri, passez votre chemin.

Preuves et sources

Lu le 5 novembre 2026 : articles 14, 26 et 111 sur le site d’assistance de la Commission (consolidation au 27 juillet 2026, en anglais), exemples de sa page Employment (rattachée au projet du 19 mai 2026), fiche 13 du guide de la CNIL. Le JO n’a pas été lu.

Chaque élément ci-dessous dit s’il s’agit d’un fait lu dans une source, d’une déclaration d’éditeur, de notre calcul, de notre méthode ou de notre avis. Aucun logiciel n’a été testé. Notre méthode, connexions relevées et prix relevés.

  • Fait lu. L’article 14 §4 prévoit des personnes en mesure de comprendre les capacités et limites du système, de garder à l’esprit le biais d’automatisation, d’interpréter la sortie, de l’ignorer ou de l’annuler et d’interrompre le système.

    Portée : Union européenne, consolidation au 27 juillet 2026. Adopté, applicable le 2 décembre 2027 pour l’annexe III.

    Réserve : Exigence de conception, lue en anglais.

  • Fait lu. L’article 26 §2 réclame pour le contrôle humain des personnes ayant compétence, formation, autorité et soutien.

    Portée : Union européenne. Adopté, applicable le 2 décembre 2027.

    Réserve : Seulement pour un système à haut risque.

  • Fait lu. La page Employment classe l’outil de rapprochement à haut risque bien que les recruteurs puissent réviser, annuler ou compléter ses recommandations.

    Portée : Exemple rattaché au projet du 19 mai 2026. Proposé.

    Réserve : Exemple d’interprétation, non contraignant.

  • Fait lu. La même page écrit, pour la vérification d’antécédents, que la revue humaine est formelle alors que la sortie influence fortement qui avance.

    Portée : Exemple rattaché au projet du 19 mai 2026. Proposé.

    Réserve : Vaut pour cet exemple, la généralisation est notre lecture.

  • Fait lu. Selon la fiche 13 de la CNIL, plus le nombre de candidatures est important, plus le recruteur risque de ne consulter que les mieux classés, les autres étant de fait exclus.

    Portée : France, guide du 30 janvier 2023.

    Réserve : « Dans certains cas », selon l’usage.

  • Fait lu. La fiche 13 de la CNIL regarde comme pouvant être prise sans intervention humaine une décision dont le responsable ne sait pas expliciter les motifs.

    Portée : France, guide du 30 janvier 2023, au titre du RGPD.

    Réserve : Antérieur au règlement sur l’IA.

  • Notre méthode. L’échantillon de 21 dossiers tirés parmi 210, avec 3 repêchés, soit environ 14,3 %, est un exemple fictif de notre protocole.

    Portée : Calcul illustratif, entreprise fictive.

    Réserve : Ni seuil, ni prévision, ni mesure de biais.

    Daté du 5 novembre 2026.

  • Fait lu. L’article 111 §2 consolidé n’applique le règlement aux systèmes à haut risque mis sur le marché ou en service avant l’application du chapitre III qu’en cas de changement significatif de leur conception, sauf pour ceux destinés aux autorités publiques.

    Portée : Union européenne, consolidation au 27 juillet 2026, paragraphe marqué comme modifié.

    Réserve : Changement significatif non défini dans le passage lu. JO non lu.