Algorithm TV

Erhalte ich einen Kredit? Wie hoch ist meine Versicherungsprämie? Habe ich Anspruch auf Sozialhilfe? Viele wichtige Entscheidungen werden heute auf der Grundlage unserer Daten mithilfe von Algorithmen entschieden. Diese Systeme sind oft hocheffizient – doch sind sie eigentlich fair? Vier Filme erzählen von (un)fairen Algorithmen und regen zum Nachdenken an.
© Tristesse

Systeme zur automatischen Entscheidungsfindung (ADM) sind überall und prägen unser Leben. Sie wurden mit den Datensätzen vieler Menschen trainiert und haben so gelernt, Muster in diesen Datensätzen zu erkennen. Muster, anhand derer beispielsweise Hinweise darauf gesucht werden, wie gross das Risiko ist, dass eine Person einen Kredit nicht zurückbezahlen wird. Dabei ist es nicht nur wichtig, dass die Algorithmen gut funktionieren, also das tun, was sie sollen, sondern auch, dass die auf ihnen basierenden Entscheidungen fair sind.

Externer Inhalt von vimeo.com

Wir möchten Ihnen Inhalte anzeigen, die nicht auf unseren Servern gehostet werden.

Erst wenn Sie Ihre Zustimmung geben, werden die Inhalte von externen Servern geladen. Bitte beachten Sie, dass der Drittanbieter dann möglicherweise Daten verarbeitet, die Ihr Browser übermittelt. Zusätzlich könnten Informationen auf Ihrem Gerät gespeichert werden, beispielsweise in Cookies. Weitere Details dazu erhalten Sie direkt vom Drittanbieter..

Können diese Systeme gerecht sein und gesellschaftliche Ungleichheiten verringern oder halten sie im Gegenteil diese Ungleichheiten aufrecht oder verstärken sie sie gar? Das ist keine rein technische Frage, denn Algorithmen werden von uns Menschen programmiert. Damit fliessen immer auch Meinungen und gesellschaftliche Vorurteile in die Algorithmen ein – oft ohne Absicht. In den letzten Jahren sind immer wieder Fälle von algorithmenbasierten Entscheidungssystemen bekannt geworden, die verschiedene gesellschaftliche Gruppen systematisch benachteiligen.

Externer Inhalt von vimeo.com

Wir möchten Ihnen Inhalte anzeigen, die nicht auf unseren Servern gehostet werden.

Erst wenn Sie Ihre Zustimmung geben, werden die Inhalte von externen Servern geladen. Bitte beachten Sie, dass der Drittanbieter dann möglicherweise Daten verarbeitet, die Ihr Browser übermittelt. Zusätzlich könnten Informationen auf Ihrem Gerät gespeichert werden, beispielsweise in Cookies. Weitere Details dazu erhalten Sie direkt vom Drittanbieter..

Vier Kurzfilme verhandeln diese ethischen Fragen anhand von vier Fallbeispielen, die auf wahren Begebenheiten beruhen – es geht um den Schutz des Kindeswohls, um Hilfsmassnahmen für Arbeitslose, um die Vergabe von Krediten und um Bewerbungsprozesse. Ein Team der Zürcher Hochschule für angewandte Wissenschaften (ZHAW) und AlgorithmWatch Schweiz hat die vier Filme für die Ausstellung «Planet Digital» im Museum für Gestaltung Zürich (11.2. – 6.6.2022) entwickelt, wo sie als Exponate gezeigt wurden. Realisiert wurden die Filme von Tristesse. Nun sind die Filme auch hier zu sehen.

Externer Inhalt von vimeo.com

Wir möchten Ihnen Inhalte anzeigen, die nicht auf unseren Servern gehostet werden.

Erst wenn Sie Ihre Zustimmung geben, werden die Inhalte von externen Servern geladen. Bitte beachten Sie, dass der Drittanbieter dann möglicherweise Daten verarbeitet, die Ihr Browser übermittelt. Zusätzlich könnten Informationen auf Ihrem Gerät gespeichert werden, beispielsweise in Cookies. Weitere Details dazu erhalten Sie direkt vom Drittanbieter..

Mehr Informationen zum Thema finden sich im Online-Ausstellungskatalog von «Planet Digital».

Externer Inhalt von vimeo.com

Wir möchten Ihnen Inhalte anzeigen, die nicht auf unseren Servern gehostet werden.

Erst wenn Sie Ihre Zustimmung geben, werden die Inhalte von externen Servern geladen. Bitte beachten Sie, dass der Drittanbieter dann möglicherweise Daten verarbeitet, die Ihr Browser übermittelt. Zusätzlich könnten Informationen auf Ihrem Gerät gespeichert werden, beispielsweise in Cookies. Weitere Details dazu erhalten Sie direkt vom Drittanbieter..