Saison 2 - Ep. 5 / Les algorithmes de recommandation et les ressources humaines

Dans ce nouvel épisode de la saison 2 des "Voies de l'IA", nous nous intéressons aux algorithmes de recommandation utilisés dans le monde des ressources humaines.

Ce cinquième épisode du podcast "Les Voies de l'IA" explore l'utilisation des algorithmes de recommandation en matière de recrutement. Alors que le champ d'utilisation de l'IA dans les ressources humaines peut-être très large, il s'agit ici d'observer l'usage des algorithmes de recommandation lorsqu'ils servent à proposer des offres d'emploi aux candidats ou, à l'inverse, proposer des candidats aux entreprises qui recrutent. Permettent-ils vraiment de recommander les meilleurs profils aux recruteurs ? Le droit est-il prêt à suivre cette mutation en marche dans les RH ? Qu'en est-il du risque de discrimination ? Autant de questions auxquelles cet épisode tente de répondre.

• Le "matching"

Avec l'arrivée de l'intelligence artificielle en général dans les ressources humaines, "il est en train de se passer des choses absolument extraordinaires", souligne Camille Salinesi, codirecteur de l'Observatoire de l'IA Université Paris 1 Panthéon-Sorbonne. "On a maintenant des entretiens qui sont faits avec des avatars, des systèmes d'analyse de vidéo d'entretiens qui sont utilisés plus ou moins légalement, des systèmes qui sont utilisés pour faire de la rédaction d'offres d'emploi, pour préparer les candidats". Mais dans le domaine des ressources humaines, les algorithmes de recommandation, eux, sont particulièrement utilisés pour deux choses : "d'une part pour proposer des offres d'emploi aux candidats et d'autre part, à l'inverse, pour proposer des candidats aux entreprises qui recrutent". Un algorithme de recommandation étant un algorithme qui trie et établit des rangs, il s'agit donc en l'espèce de trier des candidats ou trier des offres d'emploi.

Ces algorithmes de recommandation fonctionnent donc sur un modèle de "matching", ou "appariement" en français. "C'est l'idée que l'on va chercher des informations dans les dossiers de candidature des candidats que l'on va utiliser pour prévoir leur probabilité de convenir au poste", explique Alain Lacroux, professeur en sciences de gestion et du management à l'Université Paris 1 Panthéon-Sorbonne. Mais, pour faire du matching, "il faut une base de données". Autrement dit, quand une entreprise sollicite un développeur de logiciel, celle-ci lui fournit bien souvent une base de candidats qui ont déjà été recrutés ou refusés par elle-même, afin que le développeur établisse un modèle d'algorithme qui corresponde à ses attentes. Cette base fera office de "base d'entraînement". Ces technologies étant plutôt sophistiquées, on les retrouvera ensuite "plutôt dans les grandes entreprises qui ont un gros volume de candidats, donc difficile à traiter rapidement", précise Alain Lacroux. "Il s'agira principalement d'entreprises qui proposent des postes relativement standardisés, c’est-à-dire, des postes sur lesquels on peut entraîner un algorithme", ajoute-t-il. L'exemple type d'utilisation serait donc le cas du recrutement d'un conseiller bancaire junior pour un grand groupe du CAC 40 qui peut recevoir jusqu'à un million de candidatures à traiter. Pour ces entreprises, le recours aux algorithmes représente alors un gain de temps et donc, de productivité. Mais celles-ci "ne s'en vantent pas forcément", indique Alain Lacroux, si bien qu'il reste difficile de savoir combien d'entreprises utilisent ces méthodes pour recruter : "Aux États-Unis, il y aurait environ 25 % des entreprises de taille moyenne et grande qui utiliseraient ce type d'algorithme de matching, mais en France, c'est une zone grise".

Recruter grâce à des algorithmes, c'est légal, "oui, mais", résume Grégoire Loiseau, professeur de droit à l’université Paris 1 et spécialiste du droit du travail. Des textes encadrent en effet cette pratique comme le Règlement européen sur l'Intelligence artificielle adopté en juin 2024. Celui-ci interdit par exemple formellement depuis février 2025 la "reconnaissance émotionnelle" sur le lieu de travail. Le droit du travail et le Règlement général sur la protection des données viennent également sécuriser le cadre, indique Célia Zolynski, professeur de droit et codirectrice de l'Observatoire de l'IA à Paris 1. D'ailleurs, "la CNIL en a fait l'un de ses sujets de priorité pour ses contrôles en 2026", précise-t-elle. Le spécialiste du droit du travail Grégoire Loiseau tempère toutefois : "On a des textes généraux qui prévoient notamment que les méthodes et techniques d'aide au recrutement doivent faire l'objet d'une information préalable auprès du candidat à l'emploi, et qu'elles doivent être pertinentes au regard de la finalité poursuivie. Mais cela reste de grandes orientations, des indications, et il faut bien dire que ces textes-là, fussent-ils contraignants, ne sont pas faciles à faire respecter en pratique." 

• Le "shadow using"

Si le droit encadre en théorie l'usage de l'IA dans les ressources humaines, dans les faits, certaines dérives existent bel et bien. L'une des dérives se nomme le "shadow using", autrement dit, un usage "dans l'ombre". C'est "l'utilisation cachée, non officielle, des outils d'IA", explique Alain Lacroux. Le shadow using concerne majoritairement les outils d'intelligence artificielle générative tels que ChatGPT. Concrètement, certaines entreprises peuvent avoir l'idée de soumettre les CV qu'elles reçoivent à l'analyse de ChatGPT. "Le problème de ce type de manœuvre, c'est que l'on ne sait absolument pas quelle est la méthode utilisée par les IA génératives pour scorer, on ne sait pas trop comment ça marche", avance Alain Lacroux. En clair, une utilisation de l'ombre pourrait impacter votre candidature et la rejeter sur des critères obscurs sans même que vous ne vous en rendiez compte. Pour les recruteurs qui s'adonnent à cette pratique, à ce jour, "les risques sont limités", prévient Grégoire Loiseau. "Comme le suggère l'appellation de Shadow using, la pratique est le plus souvent invisible et donc non détectée", explique le professeur de droit ajoutant qu'en matière de recrutement, "il y a très peu de contentieux." Il poursuit : "Quand bien même les personnes seraient informées qu'elles ont subi une décision, celles-ci agissent rarement. On n'indemnise pas la perte de chances de conclure le contrat de travail, donc les dommages-intérêts sont très faibles. Et puis, il faut bien dire aussi que les syndicats de salariés ne sont pas vraiment actifs sur ce front".

• Le risque de discriminations

Les algorithmes de recommandation sont-ils par ailleurs plus ou moins à risque de discriminer à l'embauche que les humains ? "La réponse est ambivalente", estime Alain Lacroux. "Cela dépend principalement de la manière dont l'algorithme a été programmé. Si vous êtes racistes, vous pouvez demander à ne retenir que les candidats avec un nom à consonance francophone. C'est tellement illégal et tellement repérable que personne ne le fait. Par contre, la discrimination qui existe sur les algorithmes, c'est lorsque la base d'entraînement était elle-même biaisée", explique le professeur de gestion, rappelant un principe de base : "l'algorithme n'est ni meilleur ni pire, il est neutre". Autrement dit, si l'algorithme a été entraîné sur une base de données qui contenait, par exemple, une surreprésentation d'hommes par rapport aux femmes, celui-ci va tout simplement les reproduire et parfois même, les amplifier.

Si très peu de contentieux existent à ce jour en matière de recrutement, quelques affaires émergent toutefois aux Etats-Unis. "Une affaire célèbre a concerné l'algorithme de recrutement d'Amazon il y a déjà quelques années, après qu'il a été constaté que cet algorithme favorisait les candidatures masculines. Mais l'affaire n'avait pas donné lieu à une condamnation judiciaire", rappelle Grégoire Loiseau. En revanche, on commence à constater de plus en plus de litiges outre-Atlantique. Une affaire en cours concerne notamment un candidat afro-américain en situation de handicap et dont la candidature a été systématiquement rejetée par les entreprises utilisant la plateforme Workday, très commune aux États-Unis, et employant des algorithmes de screening. Un tribunal fédéral de Californie a jugé en juillet 2024 que Workday, peut être responsable au titre des lois anti-discrimination, même s'il n'est pas l'employeur direct, ce qui "pourrait inspirer la jurisprudence européenne", explique Grégoire Loiseau. En 2025, ajoute le professeur de droit, "la juge fédérale de cette juridiction californienne a également autorisé l'engagement d'une class action qui pourrait potentiellement concerner des centaines de millions de candidatures qui ont été traitées par ce logiciel Workday".

👉À écouter aussi sur Radio France :
https://www.radiofrance.fr/franceinfo/podcasts/les-voies-de-l-ia/les-voies-de-l-ia-6257634