Atlas der Automatisierung
Um Sozialleistungsbetrug aufzudecken, Arbeitsleistung zu messen, die Kreditwürdigkeit einer Person vorherzusagen oder um uns online personalisierte Inhalte anzuzeigen – Algorithmen und sogenannte «Künstliche Intelligenz» prägen heute unseren Alltag. Wo, von wem und wozu diese algorithmischen Systeme eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel.
Wie steht es um die Automatisierung in der Schweiz? Die Antwort auf diese Frage lag bisher im Dunkeln: Wo, wie und von wem Algorithmen oder sogenannte «Künstliche Intelligenz» heute eingesetzt werden, ist oft nicht ersichtlich. Dabei können diese Systeme dazu verwendet werden, Entscheidungen über Menschen zu beeinflussen. Sie betreffen also uns alle – und potenziell auch unsere Grundrechte, unsere Gesellschaft und unsere Demokratie. Und das alles, ohne dass wir uns dessen wirklich bewusst sind.
Eine gesellschaftliche Debatte ist also dringend angezeigt. Heute stützen wir uns dabei weitgehend auf Anekdoten, Annahmen und Spekulation – die Faktenbasis fehlt. Dem wirkt AlgorithmWatch CH nun entgegen: Wir machen den Auftakt, um die Automatisierung der Schweiz zu vermessen.
Im Atlas der Automatisierung verzeichnen wir eine Auswahl von algorithmischen Systemen, die in der Schweiz zum Einsatz kommen, um Entscheidungen vorherzusagen, zu empfehlen oder zu treffen, oder um Inhalte zu generieren, die Auswirkungen auf Menschen haben – egal ob bei staatlichen Stellen oder privaten Anbietern. Das Ziel des Atlas der Automatisierung ist jedoch keine flächendeckende Vermessung. Es geht vielmehr darum, beispielhaft aufzuzeigen undeinen Überblick zu verschaffen, wo Algorithmen eingesetzt werden und wie dies unseren Alltag, aber auch unsere Rechte und unsere Gesellschaft beeinflussen kann.
Mit dem Atlas der Automatisierung tragen wir dazu bei, dringend notwendige Transparenz zu schaffen. Auf ihrer Grundlage soll die Öffentlichkeit nachvollziehen können, welchen Einfluss algorithmische Systeme auf unser aller Leben haben. Die Informationen der Datenbank beruhen auf Recherchen von AlgorithmWatch CH, auf Anfragen an öffentliche Verwaltungen und auf politische Vorstösse, die zeitgleich mit der Lancierung der Datenbank eingereicht werden. Die Ergebnisse werden laufend in die Datenbank eingepflegt.
Der Atlas der Automatisierung veranschaulicht damit gleichzeitig einen Kern des Problems: Algorithmen haben das Potenzial, unsere Grundrechte und unsere Gesellschaft zu beeinflussen – doch Informationen darüber, wo und wie sie dies tun, sind für Betroffene nicht einfach zugänglich, sondern müssen aufwändig und durch die Zivilgesellschaft recherchiert werden. Um diesen Missstand zu beheben, fordern wir umfassende Register algorithmischer Systeme, die in Entscheidungsprozessen und insbesondere von der öffentlichen Verwaltung eingesetzt werden. Ohne diese Transparenz ist es für Betroffene quasi unmöglich, sich zur Wehr zu setzen.
Der Atlas lässt sich nach dem Kanton des Einsatzes, nach den Anwender*innen, nach betroffenen Gruppen und nach vielen weiteren Kriterien filtern. Er konzentriert sich auf jene algorithmischen Systeme, die verwendet werden, um Entscheidungen über Menschen zu teil- oder vollautomatisieren. «KI»-Systeme, die Lieferbänder in Fabriken steuern, Wettervorhersagen machen oder in der Forschung eingesetzt werden, sind somit nicht im Atlas enthalten.
Der Atlas der Automatisierung richtet sich an Forscher*innen, Journalist*innen und an die breite Öffentlichkeit. Genau wie die eingesetzten algorithmischen Systeme ist auch der Atlas stets work-in-progress und nie abschliessend fertig. So kommen ständig neue Systeme hinzu und manche Pilotprojekte verschwinden. Falls dir ein neues System auffällt, das in unser Fokusgebiet fällt und noch nicht im Atlas verzeichnet ist, freuen wir uns über einen Hinweis: atlas@algorithmwatch.ch.