Des algorithmes équitables dans les processus de recrutement du personnel

Comment trouver les candidat·e·s les plus appropriés parmi un grand nombre de candidatures ? Les processus de candidature et de recrutement sont un défi et impliquent beaucoup d'efforts. Il est compréhensible de vouloir confier une partie du travail de ces processus à des systèmes de décision algorithmiques. Ces systèmes ADM (Automated Decision-Making) permettent par exemple de prétrier les candidatures à l'aide des CV ou d'établir des classements des candidat·e·s à l'aide de tests en ligne. Leur utilisation promet de faire gagner du temps et d'augmenter l'efficacité, tout en trouvant les meilleur·e·s candidat·e·s. Mais les expériences ont jusqu’ici montré que leur utilisation peut reproduire des schémas de discrimination et même accroître les obstacles discriminatoires sur le marché du travail.

L'un des exemples, les plus connus est un logiciel de candidature qu'Amazon aurait développé. Il devait rendre les processus de recrutement plus efficaces. Cependant, alors que le logiciel était encore en phase de test, il s'est avéré que l'algorithme de recommandation du logiciel était discriminatoire à l'égard des femmes en éliminant leurs CV. Amazon a déclaré avoir mis fin au projet avant que le logiciel ne soit utilisé, car les tentatives de remédier à la discrimination des femmes n'ont pas abouti.

De quoi faut-il tenir compte lors du développement et de l'utilisation de logiciels de sélection du personnel afin d'exclure toute discrimination dès le départ? Des réponses à cette question doivent être élaborées dans le cadre du projet FINDHR – Fairness and Intersectional Non-Discrimination in Human Recommendation. Le projet financé par l'UE a pour objectif de développer des algorithmes équitables pour la sélection du personnel en utilisant une approche contextuelle. Cette approche ne prend pas seulement en compte les aspects techniques des systèmes ADM, mais aussi, par exemple, le contexte de leur création ou les conséquences sociales qui découlent de leur utilisation.

Le consortium de recherche interdisciplinaire et international dont AlgorithmWatch CH fait partie travaille depuis novembre 2022 sur de nouveaux outils afin de (1) mesurer les risques de discrimination, (2) établir des classements et des interventions respectueuses de l'équité et (3) fournir aux différents groupes d'intérêt des interprétations qu'ils pourront utiliser comme base d'action. De plus, de nouveaux guides techniques pour la réalisation d'analyses d'impact et d'audits algorithmiques, un protocole de suivi de l'égalité et un guide pour le développement de logiciels ADM axés sur l'équité seront développés. La conception et l'organisation de formations spécifiques pour les développeuses et développeurs ainsi que pour les contrôleuses et contrôleurs de systèmes ADM seront un autre objectif du projet.

Le développement d'applications d'IA sensibles à la discrimination nécessite le traitement de données sensibles. C'est pourquoi le projet comprendra une analyse juridique qui examinera les tensions entre la législation sur la protection des données et la législation antidiscriminatoire en Europe. Le projet impliquera des groupes potentiellement touchés par la discrimination.

AlgorithmWatch CH, en collaboration avec d'autres partenaires du projet, se concentrera sur le développement d'outils garantissant que l'utilisation d'algorithmes dans les processus de recrutement du personnel est basée sur des principes éthiques et ne reproduit pas de préjugés discriminatoires. De plus, AlgorithmWatch CH contribuera au projet par son travail de politique basé sur des preuves et le soutiendra par des mesures de communication.

Tous les résultats seront publiés sous forme de publications en accès libre, de logiciels open source, de jeux de données ouverts et de supports de cours ouverts. Nous en parlerons régulièrement sur les canaux de médias sociaux et sur le site web d'AlgorithmWatch CH.

Ces partenaires participent au projet FINDHR :

• Universitat Pompeu Fabra
• Universiteit van Amsterdam
• Universitá di Pisa
• May-Planck-Institut für Sicherheit und Privatsphäre
• Radboud Universiteit
• Erasmus Universiteit Rotterdam
• Women in Development Europe+
• Praksis Association
• European Trade Union Confederation
• Eticas Research and Consulting
• Randstadt
• Adevinta