Systeme zur automatischen Entscheidungsfindung (ADM) sind überall und prägen unser Leben. Sie wurden mit den Datensätzen vieler Menschen trainiert und haben so gelernt, Muster in diesen Datensätzen zu erkennen. Muster, anhand derer beispielsweise Hinweise darauf gesucht werden, wie gross das Risiko ist, dass eine Person einen Kredit nicht zurückbezahlen wird. Dabei ist es nicht nur wichtig, dass die Algorithmen gut funktionieren, also das tun, was sie sollen, sondern auch, dass die auf ihnen basierenden Entscheidungen fair sind.
Können diese Systeme gerecht sein und gesellschaftliche Ungleichheiten verringern oder halten sie im Gegenteil diese Ungleichheiten aufrecht oder verstärken sie sie gar? Das ist keine rein technische Frage, denn Algorithmen werden von uns Menschen programmiert. Damit fliessen immer auch Meinungen und gesellschaftliche Vorurteile in die Algorithmen ein – oft ohne Absicht. In den letzten Jahren sind immer wieder Fälle von algorithmenbasierten Entscheidungssystemen bekannt geworden, die verschiedene gesellschaftliche Gruppen systematisch benachteiligen.
Vier Kurzfilme verhandeln diese ethischen Fragen anhand von vier Fallbeispielen, die auf wahren Begebenheiten beruhen – es geht um den Schutz des Kindeswohls, um Hilfsmassnahmen für Arbeitslose, um die Vergabe von Krediten und um Bewerbungsprozesse. Ein Team der Zürcher Hochschule für angewandte Wissenschaften (ZHAW) und AlgorithmWatch Schweiz hat die vier Filme für die Ausstellung «Planet Digital» im Museum für Gestaltung Zürich (11.2. – 6.6.2022) entwickelt, wo sie als Exponate gezeigt wurden. Realisiert wurden die Filme von Tristesse. Nun sind die Filme auch hier zu sehen.
Mehr Informationen zum Thema finden sich im Online-Ausstellungskatalog von «Planet Digital».