Diskriminierung durch Algorithmen bei der Personalauswahl vermeiden

Laufendes Projekt
Projektlaufzeit: November 2022 bis Oktober 2025

Wie lassen sich aus einem grossen Bewerbungspool die am besten geeigneten Kandidat*innen finden? Bewerbungs- und Einstellungsprozesse sind eine Herausforderung und mit viel Aufwand verbunden. Da liegt der Wunsch nahe, bei diesen Prozessen einen Teil der Arbeit algorithmischen Entscheidungssystemen zu überlassen. Mit solchen algorithmischen Systemen können beispielsweise Bewerbungen mittels der Lebensläufe vorsortiert oder Rangfolgen von Bewerbenden mithilfe von Online-Tests erstellt werden. Ihr Einsatz verspricht, Zeit zu sparen und die Effektivität zu steigern, und trotzdem die besten Bewerbenden zu finden. Die bisherigen Erfahrungen haben aber gezeigt, dass bei ihrer Anwendung Diskriminierungsmuster reproduziert und diskriminierende Hürden auf dem Arbeitsmarkt sogar noch vergrössert werden können.

Eines der bekanntesten Beispiele dafür ist eine Bewerbungssoftware, die Amazon entwickelt haben soll. Sie sollte Einstellungsprozesse effizienter machen. Noch in der Testphase der Software stellte sich aber Berichten zufolge heraus, dass der Empfehlungsalgorithmus der Software Frauen diskriminierte, indem ihre Lebensläufe aussortiert wurden. Amazon beendete das Projekt nach eigener Aussage, bevor die Software zum Einsatz kam, da Versuche, die Benachteiligung von Frauen abzustellen, keinen Erfolg hatten.

Erkenntnisziel

Was muss bei der Entwicklung und beim Einsatz von Personalauswahl-Software beachtet werden, damit Diskriminierung von Beginn an ausgeschlossen ist? In dem Projekt «FINDHR – Fairness and Intersectional Non-Discrimination in Human Recommendation» sollen Antworten auf diese Frage erarbeitet werden. Das EU-geförderte Projekt hat zum Ziel, mit einem kontextsensitiven Ansatz faire Algorithmen für die Personalauswahl zu entwickeln. Es werden dabei nicht nur die technischen Aspekte von Algorithmen berücksichtigt, sondern beispielsweise auch der Kontext der Entstehung oder die sozialen Folgen, die sich aus ihrem Einsatz ergeben. Das interdisziplinäre und internationale Forschungskonsortium, zu dem AlgorithmWatch CH gehört, arbeitet seit November 2022 an:

• Methoden, um algorithmische Diskriminierungen im Recruiting zu messen und zu verhindern
• Tools, die das Risiko von algorithmischen Diskriminierungen im Recruiting reduzieren
• Trainings, um für das Risiko von algorithmischen Diskriminierungen im Recruiting zu sensibilisieren

Rechtliche und ethische Perspektive

Die Entwicklung diskriminierungssensibler KI-Anwendungen erfordert die Verarbeitung sensibler Daten. Deshalb beinhaltet das Projekt eine rechtliche Analyse, in der die Spannungen zwischen den Datenschutzvorschriften und den Antidiskriminierungsvorschriften in Europa erörtert werden. In dem Projekt werden potenziell von Diskriminierung betroffene Gruppen einbezogen.

AlgorithmWatch CH konzentriert sich gemeinsam mit anderen Projektpartner*innen auf die Entwicklung von Werkzeugen, die sicherstellen, dass der Einsatz von Algorithmen in Personalauswahlverfahren auf ethischen Grundsätzen beruht und keine diskriminierenden Vorurteile reproduziert. Zudem trägt AlgorithmWatch CH mit seiner evidenzbasierten Advocacy-Arbeit dazu bei, die Ergebnisse des Projekts aufzubereiten und verschiedenen Zielgruppen zu vermitteln.

Projektupdates

Alle Ergebnisse werden als Open-Access-Publikationen, Open-Source-Software, offene Datensätze und offene Kursunterlagen veröffentlicht. Wir berichten regelmässig auf unseren Social Media-Kanälen, auf der FINDHR-Webseite und hier auf unserer AlgorithmWatch CH Webseite dazu.

---

---

---

Diese Partner sind am Projekt «FINDHR» beteiligt:

• Universitat Pompeu Fabra
• Universiteit van Amsterdam
• Universitá di Pisa
• Max-Planck-Institut für Sicherheit und Privatsphäre
• Radboud Universiteit
• Universiteit Utrecht
• Women in Development Europe+
• Praksis Association
• Eticas Research and Consulting
• Randstadt
• Adevinta
• AlgorithmWatch CH