Medienmitteilung

Spiegel der Gesellschaft: Diskriminierung im Recruiting durch KI verstärkt

Das Horizon Europe-Projekt FINDHR beschäftigt sich mit Diskriminierung in der Personalauswahl durch algorithmische Systeme. AlgorithmWatch CH führt das Projekt gemeinsam mit Partnerinstitutionen aus ganz Europa durch. Wir rufen zum Spenden von echten Lebensläufen auf, um mithilfe dieser Daten, Werkzeuge gegen Diskriminierung zu entwickeln.

Bild mit einem Laptop, auf dem Lebensläufe und Bilder von People of colour und weißen Menschen zu sehen sind.

Angela Müller
Dr. Angela Müller
Geschäftsleiterin AlgorithmWatch CH | Head of Policy & Advocacy

In einer Studie der deutschen Antidiskriminierungsstelle (1) berichten 23,9 % der 4.000 Befragten von Diskriminierungserfahrungen in der Phase der Arbeitssuche und Bewerbung. Heute schon zeigt sich, dass der Einsatz von algorithmischen Tools für Bewerbungsverfahren Ungerechtigkeiten verstärken kann. Immer mehr Unternehmen und auch Behörden nutzen automatisierte Systeme, um Bewerbungen zu verarbeiten. Dies führt dazu, dass insbesondere Frauen, Migrant*innen und andere marginalisierte Gruppen benachteiligt werden und ihre Chancen auf eine Anstellung sinken. In anderen Worten: Algorithmen können die Diskriminierung am Arbeitsmarkt verstärken.

Daher untersucht das europäische Forschungsprojekt FINDHR diese Zusammenhänge näher und nutzt daher unter anderem Bewerbungsunterlagen von echten Menschen.

Webseite zur Spende von Lebensläufen

So funktioniert die Datenspende: Nachdem Spender*innen ihren Lebenslauf anonymisiert haben, können sie ihn in wenigen Klicks auf der FINDHR-Seite hochladen. Alternativ ist es auch möglich, Stationen aus dem Lebenslauf manuell einzugeben. Teilnehmen können alle Menschen aus der Schweiz, der EU, Island, Liechtenstein und Norwegen.

Diese Lebensläufe werden dazu verwendet, um zu testen, wie Ungerechtigkeiten in Empfehlungssysteme eindringen. Basierend auf diesen realen Lebensläufen erstellen die FINDHR-Forscher*innen einen Datensatz an künstlich generierten CVs. Dieser hilft dabei, Antidiskriminierungsmethoden zu entwickeln und Werkzeuge zu schaffen, um Diskriminierung im Bewerbungsverfahren zu erkennen und zu verhindern.

Hintergrund zum Projekt: Das Projekt FINDHR wird im Rahmen des Förderprogramms Horizon Europe der Europäischen Union finanziert sowie vom Schweizer Staatssekretariat für Bildung, Forschung und Innovation unterstützt und erstreckt sich von November 2022 bis Oktober 2025. Zu den renommierten Partnern aus ganz Europa zählen neben AlgorithmWatch CH die Universitat Pompeu Fabra (Barcelona), Universiteit van Amsterdam, Universitá di Pisa, Radboud Universiteit, Max Planck Institute for Security and Privacy, Erasmus Universiteit Rotterdam, Praksis, Randstad, Adevinta, ETUC und WIDE+.

(1) Antidiskriminierungsstelle des Bundes, 2019. https://www.antidiskriminierungsstelle.de/SharedDocs/downloads/DE/publikationen/Leitfaeden/leitfaden_fair_in_den_job.pdf?__blob=publicationFile&v=3

This article is part of a project that has received funding from the European Union's Horizon Europe research and innovation program under grant agreement No 101070212.

Views and opinions expressed are however those of the author(s) only and do not necessarily reflect those of the European Union. Neither the European Union nor the granting authority can be held responsible for them.

This work is supported by the Swiss State Secretariat for Education, Research and Innovation (SERI) under contract number 22.00151.