IA dans le recrutement : ce qui change quand le tri de CV devient un usage réglementé à haut risque

Un outil qui trie, classe ou filtre des candidatures n’est pas dans la même catégorie réglementaire qu’un chatbot qui répond à une question de candidat sur le processus. Au regard de l’AI Act européen, les systèmes d’IA utilisés dans le recrutement — filtrage des candidatures, évaluation des candidats, ou décisions qui affectent le recrutement — sont classés à haut risque, ce qui entraîne un ensemble d’obligations précises plutôt qu’un devoir de vigilance général.

Ce que la classification impose concrètement

Un système à haut risque utilisé pour le recrutement nécessite une gestion des risques documentée, un niveau de supervision humaine capable de réellement infirmer une décision plutôt que de simplement la valider, une documentation technique que l’employeur peut produire sur demande, et une surveillance des schémas discriminatoires qui peuvent émerger même d’un outil sans biais explicite dans sa conception. Les candidats ont aussi le droit de savoir qu’un système automatisé intervient dans la décision qui les concerne. Rien de tout cela n’interdit le recrutement assisté par IA ; ça retire l’option de le traiter comme une boîte noire.

Ce que dit la recherche sur les affirmations des fournisseurs

Ce n’est pas un risque théorique. Une étude de 2020 menée par Manish Raghavan, Solon Barocas, Jon Kleinberg et Karen Levy, présentée à la conférence ACM Fairness, Accountability, and Transparency, a examiné 18 fournisseurs d’évaluations algorithmiques de pré-embauche et ce que chacun déclarait sur sa façon de tester et de limiter les biais. Le constat à retenir avant de signer un contrat : les affirmations des fournisseurs sur la limitation des biais étaient souvent vagues ou impossibles à vérifier de l’extérieur, avec des détails méthodologiques critiques non divulgués — exactement le type d’écart que l’obligation de documentation de l’AI Act est censée combler.

• →Demandez au fournisseur la méthodologie réelle de test des biais, pas un résumé marketing — si elle ne peut être produite ou expliquée, traitez ça comme un signal d’alerte plutôt qu’une formalité.
• →Gardez un décideur humain capable de voir et d’infirmer des résultats individuels, pas seulement de relire des statistiques agrégées après coup.
• →Ne laissez jamais le système rejeter silencieusement un candidat — chaque candidature écartée doit avoir une raison traçable qu’un humain peut réexaminer.
• →Journalisez les critères réellement utilisés par le système à chaque décision — l’obligation de documentation n’est pas de la paperasse gratuite, c’est ce qui permet de répondre à un régulateur ou à un candidat écarté.

Rien de tout cela ne plaide contre l’usage de l’IA pour absorber un volume de recrutement — un grand nombre de candidatures est justement là où un assistant aide le plus. Ça plaide pour traiter un outil de tri comme le fait déjà la réglementation : comme un système qui prend des décisions à conséquences sur des personnes, pas une fonctionnalité de confort qui se trouve toucher des CV.