FINDHR: Faire Algorithmen bei personellen Auswahlverfahren

AlgorithmWatch Schweiz ist Teil des Horizon Europe Projekts «FINDHR». Ziel dieses interdisziplinären Forschungsprojekts ist es, Instrumente zu entwickeln, die sicherstellen, dass Algorithmen in Einstellungsprozessen auf ethischen Grundsätzen beruhen und keine diskriminierenden Vorurteile reproduzieren.

Die Verwendung von Algorithmen in personellen Einstellungs- und Auswahlverfahren sind auf dem Vormarsch: Technologien zur automatischen Entscheidungsfindung (ADM) versprechen, in kurzer Zeit Hunderte oder Tausende von Bewerbungen zu verarbeiten. Im Vergleich zum Rest der Welt werden solche Algorithmen in Europa vermehrt eingesetzt. Diese ADM-Tools wählen Kandidat*innen auf der Grundlage ihrer Lebensläufe und Bewerbungsunterlagen aus und stufen sie in eine Rangfolge ein oder bearbeiten sie mithilfe von Online-Tests oder Games. Das Problem dabei ist: Diskriminierende Vorurteile sind in fast allen Anwendungsbereichen von ADM dokumentiert worden, so auch bei Algorithmen in personellen Einstellungsverfahren, die bestehende diskriminierende Zugangsbarrieren zum Arbeitsmarkt reproduzieren und verstärken.

Um praktische integrierte Lösungen für dieses Problem zu entwickeln, startet Horizon Europe ein interdisziplinäres Forschungsprojekt namens FINDHR (Fairness and Intersectional Non-Discrimination in Human Recommendation). Dieses von der EU finanzierte Projekt beginnt im November 2022 und wird die technischen, rechtlichen und ethischen Instrumente bereitstellen, die für ein inklusives und vielfältiges Europa erforderlich sind. Durch einen kontextsensitiven, interdisziplinären Ansatz wird FINDHR neue Technologien zur Messung von Diskriminierungsrisiken, zur Erstellung von fairnessbewussten Rankings und Interventionen sowie zur Bereitstellung von handlungsfähigen Interpretationen für verschiedene Interessengruppen entwickeln. Darüber hinaus soll es neue technische Anleitungen für die Durchführung von Folgeabschätzungen und algorithmischen Prüfungen, ein Protokoll für die Überwachung der Gleichstellung und einen Leitfaden für die Entwicklung von fairnessorientierter ADM-Software geben. Das Projekt wird auch spezielle Schulungen für Entwickler*innen und Prüfer*innen von ADM-Systemen konzipieren und durchführen. AlgorithmWatch Schweiz wird sich gemeinsam mit anderen Projektpartner*innen auf die Entwicklung von Werkzeugen konzentrieren, die sicherstellen, dass Algorithmen in personellen Auswahlverfahren auf ethischen Grundsätzen beruhen und keine diskriminierenden Vorurteile reproduzieren. Zudem befasst sich AlgorithmWatch Schweiz mit evidenzbasierter Policy-Arbeit und Kommunikationsmassnahmen.

Alle Ergebnisse werden als Open-Access-Publikationen, Open-Source-Software, offene Datensätze und offene Kursunterlagen veröffentlicht.