- Oui, vous êtes exposé : dès qu’un outil ordonne des candidatures, il produit une sélection, et cette sélection engage l’employeur au titre de l’article L.1132-1 du Code du travail.
- Le droit vise le résultat, pas l’intention : la discrimination indirecte naît d’un critère neutre en apparence qui désavantage un groupe protégé.
- L’automatisation n’exonère de rien : l’employeur répond du tri devant le juge, la responsabilité de l’éditeur s’ajoute à la sienne sans s’y substituer.
- Les garde-fous se posent avant la signature : périmètre de la décision, critères documentés, mesures par groupe, journaux conservés, réversibilité.
- IA Agency cadre ces outils comme des systèmes à enjeu réglementaire, pas comme un gain de productivité isolé.
Neuf cents candidatures, un poste, une semaine pour trancher. Un directeur des ressources humaines branche un tri automatisé sur sa campagne et gagne trois jours. Trois semaines plus tard, un candidat écarté demande sur quel critère son dossier est passé à la trappe. L’outil rend un score, pas un motif : sept cents dossiers ont été mis de côté, et personne ne sait dire pourquoi.
Le cas n’a rien d’exotique. Près de 8 recruteurs sur 10 déclarent utiliser l’intelligence artificielle dans leur métier, selon l’enquête Hellowork menée du 7 avril au 21 mai 2025 auprès de 2 247 candidats et 489 professionnels RH. Un outil de tri lit chaque candidature, en extrait des caractéristiques (expérience, diplômes, compétences, vocabulaire du poste) et attribue un score qui ordonne la pile.
Voici ce que le droit français interdit dans cette opération, d’où vient la discrimination quand personne ne l’a demandée, qui répond devant le juge, et ce qu’il faut exiger de votre prestataire avant de signer.
Ce que le droit français interdit vraiment dans un tri de candidatures
Le Code du travail interdit d’écarter un candidat d’une procédure de recrutement en raison d’un motif prohibé : c’est l’article L.1132-1. L’article L.1132-4 en tire la conséquence, toute décision prise en méconnaissance de ce principe est nulle. Le Code pénal double ce dispositif, avec la définition de la discrimination posée à son article 225-1.
Parmi les motifs énumérés par l’article L.1132-1, certains sont directement exposés dans un tri automatisé de candidatures :
- L’âge, que la moindre date de diplôme trahit.
- Le sexe, la grossesse et la situation de famille, qu’une interruption de carrière laisse deviner.
- L’origine, que le patronyme signale à lui seul.
- Le lieu de résidence, contenu dans chaque adresse postale.
- L’état de santé et le handicap, lisibles dans un parcours discontinu.
- Les activités syndicales, parfois mentionnées dans un parcours associatif.
Vient ensuite la distinction entre discrimination directe et indirecte. La première écarte ouvertement sur un motif prohibé, elle est rare dans un outil automatisé. La seconde part d’un critère neutre en apparence, la proximité géographique, la continuité du parcours, le type d’établissement, qui produit un désavantage particulier pour un groupe protégé. Le piège tient en une phrase : la discrimination indirecte ne suppose aucune intention de nuire, et elle se constate sur les effets.
Deux autres textes encadrent la méthode elle-même. Les articles L.1221-6 et suivants du Code du travail exigent que les informations demandées à un candidat aient un lien direct et nécessaire avec l’emploi proposé, et que le candidat soit informé des techniques de recrutement utilisées. C’est le premier point que nous reprenons, en tant qu’agence IA, quand une entreprise nous demande de regarder un outil en place : chaque critère qui pèse sur le score doit se justifier par le poste.
Quand nous cadrons un tri assisté chez un client, trois phrases entrent au cahier des charges avant toute démonstration produit. Ce que l’outil a le droit de faire : lire, extraire, regrouper, proposer un ordre de lecture. Ce qu’il fait sous condition : signaler un dossier hors critères, à condition que le critère soit écrit et rattaché au poste. Ce qu’il n’a jamais le droit de faire : rejeter une candidature sans qu’un recruteur puisse rouvrir le dossier et inverser la décision.
Pourquoi un agent IA fabrique-t-il de la discrimination sans qu’on la lui demande ?
Un agent IA de tri ne décide pas d’écarter des femmes ou des candidats de plus de 50 ans. Il apprend une règle statistique à partir d’exemples, puis l’applique à grande échelle. Trois mécanismes transforment cet apprentissage en discrimination, et aucun ne suppose la moindre intention.
Les données d’entraînement rejouent vos recrutements passés
Un modèle de tri apprend sur l’historique des recrutements d’une entreprise : qui a été retenu, qui a été écarté, qui est resté. Si les postes techniques ont majoritairement été confiés à des hommes pendant dix ans, le modèle en déduit que le profil de la réussite est masculin, et le rejoue sous forme de règle. Le cas d’école est documenté : Amazon a développé entre 2014 et 2017 un outil de classement des candidatures qui pénalisait les CV portant des marqueurs féminins, et l’a abandonné en 2018 (Reuters, J. Dastin, 10 octobre 2018).
Les variables proxy reconstituent ce qu’on a retiré
Retirer le sexe, l’âge et l’adresse d’un dossier ne neutralise pas le tri : d’autres données de la candidature corrèlent avec ces caractéristiques et les reconstituent statistiquement. Le tableau croise chaque donnée du dossier avec ce qu’elle restitue au modèle.
| Donnée présente dans le dossier | Caractéristique qu’elle reconstitue |
|---|---|
| Année d’obtention du diplôme | Âge |
| Interruption de carrière | Grossesse, situation de famille, état de santé |
| Code postal, temps de trajet | Origine, lieu de résidence |
| Prénom et nom de famille | Origine supposée |
| Établissement de formation | Origine sociale et géographique |
| Loisirs et engagements mentionnés | Sexe, âge, convictions |
L’effet boîte noire vous prive de votre défense
La plupart des outils de tri rendent un score, rarement un motif. Cette opacité pose un problème juridique avant de poser un problème technique : l’employeur qui ne peut pas expliquer le classement de ses candidatures ne peut pas démontrer qu’il reposait sur des éléments objectifs. Le risque n’est donc pas seulement de discriminer, il est de se retrouver sans moyen de prouver le contraire. Un recruteur peut être interrogé sur ses raisons ; un score ne se souvient de rien.
Un algorithme discrimine-t-il plus qu’un recruteur humain ?
La comparaison entre tri algorithmique et tri humain n’est tranchée par aucune mesure. Le recrutement humain est lui-même mesuré comme discriminant : à CV strictement identique, les prénoms à consonance afro-américaine obtiennent 36 % de rappels d’entretien en moins (P. Kline, E. Rose, C. Walters, NBER Working Paper 29053, juillet 2021). Les systèmes d’intelligence artificielle ont deux propriétés que n’a pas un recruteur : ils appliquent le même écart à toutes les candidatures, sans variation, et leurs erreurs se répartissent très inégalement selon les groupes. L’étude Gender Shades relevait des taux d’erreur atteignant 34,7 % pour les femmes à peau foncée, contre 0,8 % pour les hommes à peau claire (J. Buolamwini, T. Gebru, PMLR vol. 81, 2018). Un biais humain reste dispersé ; un biais de modèle est systématique, mais il laisse une trace.
À lire également : Conformité à l’AI Act : quelles obligations de transparence pour les chatbots et agents IA de votre entreprise ?
Qui répond en cas de discrimination : vous, ou l’éditeur de l’outil ?
L’employeur reste responsable du tri de ses candidatures, même quand il l’a délégué à un logiciel. C’est lui qui mène la procédure de recrutement, lui qui est mis en cause par le candidat, lui qui répond devant le conseil de prud’hommes ou devant le juge pénal. La responsabilité de l’éditeur s’ajoute à la sienne, elle ne la remplace pas : un défaut de conception ouvre un recours contre le fournisseur, il n’efface pas la décision prise à l’égard du candidat.
Cela change la façon de lire un contrat de fourniture. Une clause peut organiser une garantie financière ou une obligation de documentation ; aucune ne transfère la responsabilité pénale ni la charge de la preuve. Voici les signaux d’alerte d’un éditeur qui esquive :
- Il refuse de communiquer la liste des variables qui entrent dans le score.
- Il présente son outil comme « sans biais » sans produire de mesure datée.
- Il renvoie la conformité à votre responsabilité, sans fournir les éléments qui la rendraient démontrable.
- Il ne conserve pas les journaux de décision, ou moins longtemps que vos délais de contentieux.
- Il ne sait pas dire ce que devient votre historique de recrutement versé dans son modèle.
Ces questions relèvent du cadrage, pas de la négociation tarifaire : elles se posent au moment où l’on définit le périmètre décisionnel des agents IA qu’on installe dans un processus de recrutement.
« Déléguer le tri à un outil, c’est déléguer un geste, jamais la responsabilité qui va avec. Le jour où un candidat conteste, ce n’est pas l’éditeur qui s’assoit en face de lui. »
Ce que vous risquez concrètement
Les régimes applicables à une discrimination dans un tri de candidatures ne sont pas des alternatives : ils se cumulent sur les mêmes faits. Le tableau les compare sur les mêmes critères.
| Régime | Ce qui le déclenche | Ce que vous encourez | Qui le met en mouvement |
|---|---|---|---|
| Pénal | Refus d’embauche fondé sur un motif prohibé (article 225-1 du Code pénal) | 3 ans d’emprisonnement et 45 000 € d’amende (article 225-2) ; amende quintuplée pour une personne morale | Plainte du candidat, ministère public |
| Civil et prud’homal | Décision prise en méconnaissance de l’article L.1132-1 du Code du travail | Nullité de la décision (article L.1132-4) et réparation du préjudice | Le candidat, devant le conseil de prud’hommes |
| AI Act | Manquement aux obligations pesant sur un système à haut risque | Jusqu’à 15 000 000 € ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu (article 99(4)) | Autorité nationale de surveillance |
| RGPD | Décision entièrement automatisée, défaut d’information sur la logique du traitement | Jusqu’à 20 000 000 € ou 4 % du chiffre d’affaires mondial | Autorité de protection des données, sur plainte |
| Réputationnel | Publicité donnée à l’affaire par le candidat ou la presse | Effet durable sur votre marque employeur, sans procédure ni délai | N’importe qui, à n’importe quel moment |
Une même campagne peut donc ouvrir une action prud’homale, une plainte pénale et un contrôle au titre du règlement européen. Une mise en conformité ne supprime aucun de ces risques : elle les réduit, et elle vous donne de quoi vous défendre.
Ne calez pas votre plan de conformité sur l’échéance européenne. Un report de calendrier ne protège de rien, parce que ce n’est pas l’AI Act qui interdit de discriminer : c’est le Code du travail, le Code pénal et le RGPD, et aucun des trois n’a attendu le règlement européen pour s’appliquer. L’entreprise qui trie aujourd’hui des candidatures avec un outil qu’elle ne sait pas expliquer est déjà exposée. Un chantier à mener maintenant, donc, pas une échéance à préparer.
Ce que l’AI Act impose à celui qui déploie l’outil
Le règlement (UE) 2024/1689, dit AI Act, classe les outils de recrutement parmi les systèmes à haut risque : son article 6 renvoie à l’annexe III, dont le point 4 vise la publication d’offres ciblées, l’analyse et le filtrage des candidatures, et l’évaluation des candidats. L’entreprise qui utilise l’outil est un déployeur, et l’article 26 met à sa charge des obligations propres, distinctes de celles du fournisseur :
- Utiliser le système conformément aux instructions du fournisseur, ce qui suppose de les avoir lues et conservées.
- Confier la supervision à des personnes compétentes, formées, et dotées de l’autorité nécessaire pour contredire l’outil.
- Surveiller le système pendant son usage, et pas seulement à la mise en route.
- Conserver les journaux qu’il génère, seule trace de ce qui s’est passé.
- Suspendre l’usage et informer le fournisseur dès qu’un risque est identifié.
Le règlement pose en amont les principes que le fournisseur doit respecter : gestion des risques (article 9), gouvernance des données d’entraînement (article 10), transparence (article 13) et contrôle humain (article 14). Le calendrier d’application de ces obligations aux systèmes de l’annexe III a été repoussé par un règlement modificatif européen : reconfirmez la date exacte à la source avant d’en faire un jalon.
Ce que le RGPD exige en plus
Le RGPD s’applique au tri des candidatures indépendamment de l’AI Act. Son article 22 donne à toute personne le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou l’affectant de manière significative : un rejet de candidature entre dans ce champ. Son article 13, §2, f impose d’informer la personne de la logique sous-jacente au traitement. Trois conséquences concrètes : le candidat doit savoir qu’un système d’intelligence artificielle intervient, il doit pouvoir demander une intervention humaine, et vous devez expliquer sur quels éléments son dossier a été évalué. Cette dernière obligation suppose un canal de réponse identifié, qu’il s’agisse d’une adresse dédiée ou d’un chatbot IA qui reçoit la demande, l’horodate et la transmet à un recruteur.
Pour en savoir plus : Gouvernance des agents IA : par où commencer pour garder le contrôle en entreprise ?
Les garde-fous à exiger avant de signer
Les garde-fous d’un tri assisté par IA se posent au contrat, pas après le déploiement. L’ordre ci-dessous est celui de la négociation : chaque exigence conditionne la suivante, et abandonner la première rend les autres invérifiables. C’est la matière d’une mission d’audit et conseil IA, sur un contrat à signer comme sur un outil en production.
- Bornez le périmètre décisionnel. Écrivez que l’outil propose un ordre de lecture et ne prononce aucun rejet définitif. C’est la seule exigence qui, à elle seule, vous fait sortir du champ de la décision entièrement automatisée.
- Exigez la liste des variables qui entrent dans le score, avec leur poids relatif, et faites écarter celles qui n’ont pas de lien direct et nécessaire avec l’emploi proposé.
- Demandez la documentation des données d’entraînement : période, population, retraitements. Un modèle entraîné sur votre historique reproduit votre historique.
- Obtenez une mesure datée des taux de sélection par groupe (sexe, âge, origine approchée). Une mesure absente est une réponse en soi.
- Imposez la conservation des journaux de décision sur une durée au moins égale à vos délais de contentieux, et l’accès à ces journaux sans passer par le fournisseur.
- Organisez la reprise humaine : qui rouvre un dossier écarté, sur quel critère, en combien de temps, et comment l’arbitrage est tracé.
- Prévoyez la réversibilité : récupération de vos données, arrêt du traitement, continuité du recrutement sans l’outil.
- Verrouillez l’information des candidats : mention dans l’offre, dans la politique de protection des données, et procédure de réponse aux demandes d’explication.
Ce qui réduit réellement les biais d’un algorithme de tri
Réduire les biais d’un algorithme de tri tient à quatre leviers, dont aucun n’est technique au sens où un éditeur l’entend. Le premier est le retrait des variables sans lien direct et nécessaire avec l’emploi proposé, qu’exigent les articles L.1221-6 et suivants du Code du travail. Le deuxième est la documentation des données d’entraînement, que l’AI Act met à la charge du fournisseur au titre de la gouvernance des données (article 10) : un historique non retraité rejoue les recrutements passés. Le troisième est la mesure des taux de sélection par groupe, campagne après campagne, parce qu’un écart qu’on ne voit pas ne se corrige pas. Le quatrième est une supervision humaine qui inverse réellement des décisions, au sens de l’article 14. Ces leviers ne suppriment pas le biais : ils le rendent mesurable, donc corrigeable, et ils laissent une trace le jour où un candidat conteste.
Pourquoi un outil « sans biais » n’existe-t-il pas ?
La promesse d’un outil de recrutement « sans biais » se heurte à un résultat mathématique établi. Au moins 21 définitions de l’équité algorithmique coexistent, et trois critères fréquemment invoqués sont mathématiquement incompatibles entre eux hors cas trivial (A. Narayanan, FAT* 2018 ; A. Chouldechova, Big Data, vol. 5 n° 2, 2017). Corriger un écart selon l’une de ces définitions en creuse mécaniquement un autre. Le marché est d’ailleurs peu disert : une analyse de 18 outils commerciaux de recrutement algorithmique a montré qu’ils ne documentaient majoritairement aucune mesure de prévention des biais (Raghavan, Barocas, Kleinberg, Levy, FAT* 2020). La question à poser à un fournisseur n’est donc pas « votre outil est-il sans biais ? », mais « quel écart mesurez-vous, selon quelle définition, et à quelle date ».
Comment prouver que votre tri n’a pas discriminé ?
La charge de la preuve est aménagée en matière de discrimination, et beaucoup d’entreprises le découvrent trop tard. L’article L.1134-1 du Code du travail prévoit que le candidat présente des éléments de fait laissant supposer une discrimination, et qu’il revient ensuite à l’employeur de démontrer que sa décision repose sur des éléments objectifs étrangers à toute discrimination. Ce n’est pas au candidat de prouver votre faute, c’est à vous de prouver votre objectivité.
- Conservez la trace de chaque décision : score, critères déclenchés, date, version du modèle. Sans la version, une trace ne prouve rien : l’outil d’aujourd’hui n’est pas celui de la campagne contestée.
- Documentez le lien entre chaque critère et le poste, dans la fiche de poste elle-même. C’est ce document qui rend un critère objectif, pas son automatisation.
- Mesurez vos taux de sélection par groupe à chaque campagne, et conservez ces mesures. Un écart identifié et corrigé vous défend ; un écart jamais mesuré vous accuse.
- Tracez les reprises humaines : dossiers rouverts, décisions inversées, motifs. C’est la preuve que la supervision existait ailleurs que dans le contrat.
- Archivez l’information donnée aux candidats et les réponses à leurs demandes d’explication, avec leur date d’envoi.
Ces cinq éléments se constituent pendant le recrutement, jamais après la contestation : reconstituer a posteriori ce qu’un modèle a fait il y a huit mois est, dans la pratique, impossible.
À découvrir absolument : Qu’est-ce qu’un agent IA ? Guide complet pour maîtriser cette révolution technologique
Les affaires qui font jurisprudence, et ce qu’elles vous apprennent
Les affaires marquantes de discrimination algorithmique à l’embauche viennent des États-Unis et de deux pays européens. Elles ne sont pas du droit applicable en France, et le point mérite d’être posé : ce sont des signaux avancés sur ce qui sera reproché, pas des précédents opposables devant un tribunal français.
| Affaire | Période | Ce qui était reproché | Ce qu’elle déplace |
|---|---|---|---|
| Amazon | Outil développé de 2014 à 2017, abandonné en 2018 | Classement pénalisant les CV portant des marqueurs féminins | Un historique de recrutement suffit à produire le biais |
| iTutorGroup | Accord annoncé le 11 septembre 2023 | Rejet automatique des femmes de 55 ans et plus et des hommes de 60 ans et plus, environ 200 candidats écartés | 365 000 $ versés pour régler la plainte de l’EEOC, sur les fondements ADEA et Title VII |
| Mobley c. Workday | Plainte déposée le 21 février 2023, décision de mai 2025 | Discrimination par l’âge imputée à l’outil de présélection d’un fournisseur | Procédure collective autorisée. Affaire en cours, ce n’est pas une condamnation définitive |
| Deliveroo, Bologne | Ordonnance du 31 décembre 2020 | Algorithme de notation ne distinguant pas l’absence pour grève de l’absence injustifiée | Première qualification européenne nette de discrimination indirecte algorithmique |
| Allocations familiales néerlandaises | Amende prononcée en 2021 | Algorithme discriminant les familles binationales | 2,75 M€ infligés à l’administration fiscale par l’autorité néerlandaise de protection des données |
| New York, Local Law 144 | Adoptée le 10 novembre 2021, applicable depuis le 5 juillet 2023 | Usage d’un outil automatisé sans audit de biais indépendant ni information des candidats | Audit au moins tous les 12 mois, résumé publié ; 500 $ à la première violation, 500 à 1 500 $ ensuite, chaque jour non conforme pouvant compter comme une violation distincte |
Une constante traverse ces six dossiers : nulle part l’entreprise n’avait voulu discriminer. Ce qui a été reproché, c’est un effet mesurable et une incapacité à le justifier. C’est le terrain sur lequel un employeur français se retrouverait, avec l’article L.1134-1 du Code du travail en plus.
« Une supervision humaine qui valide tout ce que l’outil propose n’est pas une supervision, c’est une signature. La vraie question n’est pas de savoir si quelqu’un relit, mais combien de décisions cette personne a déjà inversées. »
Obtenez votre devis personnalisé
L’erreur qui aggrave tout, c’est de déployer un outil opaque sans jamais l’auditer. Devant un juge, elle ne se lit pas comme une négligence technique mais comme un choix, celui de ne pas regarder. Qui a mesuré ses écarts, trouvé un déséquilibre et corrigé son paramétrage démontre une démarche ; qui n’a rien mesuré n’a rien à produire. L’ignorance ne protège pas, elle prive de défense.
Pourquoi travailler avec IA Agency sur ce sujet ?
IA Agency intervient sur les usages de l’intelligence artificielle placés dans un cadre réglementé, et le tri des candidatures en fait partie. Notre travail ne consiste pas à choisir un outil à votre place : il consiste à définir ce que cet outil a le droit de décider, à documenter ce qui rend chaque critère défendable, et à vous laisser en état de prouver votre objectivité si un candidat conteste.
Cela prend la forme d’un cadrage écrit avant déploiement, d’une revue des variables qui entrent dans le score, d’un dispositif de conservation des journaux et de mesure des écarts, et d’une reprise humaine praticable par vos équipes.
Nous ne vendons aucune garantie de conformité, parce qu’elle n’existe pas, et sur un cas particulier la lecture juridique revient à un avocat. Nos principes de travail sont publics, ils sont posés dans notre charte IA éthique et responsable.
Tri des candidatures par IA : ce qu’il faut retenir
Un agent IA peut trier des candidatures sans discriminer, à une condition que peu d’entreprises remplissent : savoir dire, dossier par dossier, sur quels critères le classement a été produit. L’article L.1132-1 du Code du travail interdit d’écarter un candidat sur un motif prohibé, l’article L.1134-1 fait peser sur l’employeur la démonstration de son objectivité, et l’AI Act ajoute des obligations propres au déployeur.
La discrimination indirecte est le vrai risque de ces outils : elle naît des données historiques et des variables proxy, et elle ne se voit qu’en mesurant les taux de sélection par groupe. Un outil « sans biais » n’existe pas ; ce qui existe, c’est un outil dont on connaît les écarts, dont on borne le périmètre décisionnel et dont on conserve les traces.
Vous voulez savoir ce que vous seriez capable de démontrer aujourd’hui, sur l’outil que vous utilisez ou celui que vous êtes sur le point de signer ? Discutons de votre stratégie IA.
Le tri des candidatures par une IA est-il légal en France ?
Oui. Aucun texte français n’interdit de trier des candidatures avec un système d’intelligence artificielle : ce sont les critères retenus et leurs effets qui sont encadrés. L’article L.1132-1 du Code du travail interdit d’écarter un candidat sur un motif prohibé, et les articles L.1221-6 et suivants exigent un lien direct et nécessaire avec l’emploi proposé.
Un candidat peut-il refuser d’être évalué par un algorithme ?
L’article 22 du RGPD donne le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou affectant significativement la personne. Un rejet de candidature entre dans ce champ : le candidat peut demander une intervention humaine et contester le résultat du tri.
Faut-il prévenir les candidats qu’une IA lit leur CV ?
Oui. Les articles L.1221-6 et suivants du Code du travail imposent d’informer le candidat des méthodes et techniques de recrutement utilisées. Le RGPD y ajoute, à son article 13, §2, f, une information sur la logique sous-jacente du traitement automatisé. Une mention explicite dans l’offre est le minimum exigible.
Une IA discrimine-t-elle moins qu’un recruteur humain ?
Aucune mesure ne tranche. Le recrutement humain est déjà mesuré comme discriminant : à CV strictement identique, les prénoms à consonance afro-américaine obtiennent 36 % de rappels en moins (Kline, Rose, Walters, NBER, juillet 2021). Un algorithme applique le même écart à toutes les candidatures, systématiquement, mais il laisse une trace.
Retirer le sexe et l’âge des CV suffit-il à rendre le tri équitable ?
Non. Les variables proxy reconstituent ce que vous avez masqué : l’année de diplôme restitue l’âge, une interruption de carrière signale une grossesse ou un état de santé, un code postal approche l’origine. Le modèle exploite ces corrélations sans nommer le motif prohibé, et le résultat reste une discrimination indirecte.
L’analyse vidéo des entretiens par IA est-elle autorisée ?
L’inférence des émotions au travail est interdite par l’article 5 de l’AI Act, sauf exceptions médicales ou de sécurité. Le précédent existe : HireVue a abandonné l’analyse des expressions faciales en 2021, après une plainte déposée auprès de la FTC par l’Electronic Privacy Information Center. Analyser le contenu des réponses reste possible.
Que peut faire un candidat qui se croit écarté par un algorithme ?
Il peut demander une intervention humaine au titre de l’article 22 du RGPD, saisir le Défenseur des droits, ou porter l’affaire devant le conseil de prud’hommes. L’article L.1134-1 du Code du travail joue en sa faveur : il présente des éléments laissant supposer une discrimination, et c’est à l’employeur de démontrer son objectivité.
Quelles sanctions une entreprise encourt-elle en cas de discrimination algorithmique ?
Les régimes se cumulent. L’article 225-2 du Code pénal punit le refus discriminatoire d’embauche de 3 ans d’emprisonnement et 45 000 € d’amende, quintuplée pour une personne morale. L’AI Act prévoit jusqu’à 15 000 000 € ou 3 % du chiffre d’affaires annuel mondial, le RGPD jusqu’à 20 000 000 € ou 4 %.
Qui est responsable : l’entreprise ou l’éditeur du logiciel ?
L’employeur répond du tri devant le candidat et devant le juge, y compris lorsqu’il l’a délégué. La responsabilité de l’éditeur s’ajoute à la sienne sans s’y substituer. Une clause contractuelle organise un recours financier contre le fournisseur, elle ne transfère ni la responsabilité pénale, ni la charge de la preuve.
Qu’est-ce qu’une supervision humaine réelle sur un outil de tri ?
L’article 14 de l’AI Act impose un contrôle humain effectif. Concrètement, une personne formée doit pouvoir rouvrir un dossier écarté, contredire le classement et inverser la décision, dans un délai praticable. Une relecture qui valide tout ce que l’outil propose n’est pas une supervision : la mesure utile est le nombre de décisions réellement inversées, et la trace écrite de ces arbitrages.
Qu’est-ce qu’un audit de biais, et est-il obligatoire ?
Un audit de biais mesure les taux de sélection produits par l’outil selon le sexe, l’âge et l’origine, sur des données réelles. Il n’est pas obligatoire en France. Il l’est à New York depuis le 5 juillet 2023 : la Local Law 144 impose un audit indépendant au moins tous les 12 mois.
Les pouvoirs publics français ont-ils pris position sur le sujet ?
Oui, principalement par la voie parlementaire : des questions écrites au Sénat et à l’Assemblée nationale interrogent le gouvernement sur la discrimination algorithmique à l’embauche. Le Défenseur des droits publie par ailleurs des travaux sur les discriminations dans l’emploi. Aucun texte français propre au tri automatisé n’a été adopté.
À partir de quand les obligations européennes s’appliquent-elles à un outil de recrutement ?
Le règlement (UE) 2024/1689 classe les outils de tri des candidatures en haut risque, par son article 6 et son annexe III, point 4. Le calendrier d’application de ces obligations a été repoussé par un règlement modificatif européen : reconfirmez la date en vigueur à la source. L’interdiction de discriminer, elle, s’applique déjà.
Quels types de biais un outil de tri de candidatures peut-il introduire ?
Un outil de tri introduit trois types de biais distincts. Le biais historique vient des données d’apprentissage, qui rejouent les recrutements passés. Le biais de représentation passe par les variables proxy : année de diplôme, code postal, interruption de carrière. Le biais de langage tient au vocabulaire attendu dans un dossier, qui n’est pas employé de la même manière selon les groupes.
Quels sont les avantages et les risques d’un tri de candidatures par IA ?
Le tri assisté par IA fait gagner du temps sur des volumes que personne ne lit intégralement, applique les mêmes critères à tous les dossiers, et laisse une trace si les journaux sont conservés. Les risques sont la discrimination indirecte, l’opacité du score et la charge de la preuve : l’article L.1134-1 du Code du travail demande à l’employeur de démontrer son objectivité.
Article mis à jour le 21 septembre 2026.
Ressources et liens utiles
[2] « Code pénal, articles 225-1 et 225-2 », Légifrance
[3] « Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, annexe III », EUR-Lex, 2024
[4] « Règlement (UE) 2024/1689, article 99 : sanctions », EUR-Lex, 2024
[5] « Règlement (UE) 2016/679 (RGPD), article 22 : décision individuelle automatisée », EUR-Lex, 2016
[6] « Travaux sur les discriminations dans l’emploi », Défenseur des droits
Des agents IA que vous pouvez défendre
Périmètre borné, critères documentés, journaux conservés, reprise humaine praticable.
Découvrir nos agents IA →
