Medienmitteilung
‹KI› und Algorithmen in der Schweiz: Licht ins Dunkel der Black Box
Algorithmische Systeme und Künstliche Intelligenz (KI) sind derzeit in aller Munde. Während alle über ChatGPT sprechen, geht derweil vergessen, dass die Automatisierung in der Schweiz bereits umfassend ist: Immer mehr Entscheidungen, die Menschen betreffen, werden von Algorithmen beeinflusst. Wo, von wem und wozu diese eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel – und veröffentlicht eine Übersicht von algorithmischen Systemen, die in der Schweiz im Einsatz sind.
Foto von Andrew Neel auf Unsplash
Ob Chatbots, die von Sozialbehörden eingesetzt werden, Scoring-Algorithmen, die über die Kreditwürdigkeit entscheiden, «Predictive Policing»-Tools, die versuchen, Verbrechen vorherzusagen, oder Profiling-Systeme, die uns personalisierte Werbung anzeigen: Algorithmische oder KI-basierte Systeme prägen heute Mensch und Gesellschaft – und werden auch verwendet, um Entscheidungen über Menschen vorherzusagen, zu empfehlen oder gar zu treffen. Die Leiterin von AlgorithmWatch CH, Angela Müller, meint dazu: «Algorithmische Systeme haben natürlich das Potenzial, unsere Effizienz und Produktivität zu steigern. Doch sie können auch zu Diskriminierung führen, die öffentliche Meinungsbildung beeinflussen und bestehende Ungerechtigkeiten verstärken. Und das alles, ohne dass wir uns dessen wirklich bewusst sind». Denn: Wo, von wem und wozu Algorithmen tatsächlich bereits eingesetzt werden, das bleibt bis heute weitgehend im Dunkeln. Eine faktenbasierte gesellschaftliche Debatte ist dringend angezeigt.
Darum macht AlgorithmWatch CH den Auftakt, um die Automatisierung der Schweiz zu vermessen – und lanciert den Atlas der Automatisierung. Dabei handelt es sich um eine Online-Datenbank, die eine Auswahl von algorithmischen Systemen verzeichnet, die in der Schweiz zum Einsatz kommen, um Entscheidungen vorherzusagen, zu empfehlen oder zu treffen, oder um Inhalte zu generieren, die Auswirkungen auf Menschen haben – egal ob durch staatliche Stellen oder private Anbieter.
«Um als Gesellschaft faktenbasiert diskutieren zu können, brauchen wir Licht in der Black Box. Gerade jetzt, wo sogenannte KI in aller Munde ist, übereifrig als Lösung aller Probleme angepriesen wird und die sehr realen negativen Auswirkungen allzu oft ignoriert werden, ist es wichtiger denn je, zu wissen, wann und wo wir es tatsächlich mit Algorithmen zu tun haben. Heute stützen wir uns dabei weitgehend auf Anekdoten, Annahmen und Spekulation – die Faktenbasis fehlt. Mit dem Atlas der Automatisierung wollen wir einen Beitrag leisten, das zu ändern», so Müller.
Das Ziel des Atlas der Automatisierung ist keine flächendeckende Vermessung. Es geht vielmehr darum, aufzuzeigen und einen Überblick zu verschaffen, wo Algorithmen eingesetzt werden und wie dies unseren Alltag, aber auch unsere Rechte und unsere Gesellschaft beeinflussen kann – egal, ob es sich dabei um einen vordergründig harmlosen Chatbot oder um biometrische Gesichtserkennungs-Software handelt.
Die Informationen der Datenbank beruhen auf Recherchen von AlgorithmWatch CH und auf Anfragen an öffentliche Verwaltungen. Zeitgleich mit der Lancierung der Datenbank werden in verschiedenen Kantonen politische Vorstösse eingereicht, um mit Unterstützung der Politik an weitere Informationen zu den von der Verwaltung verwendeten Algorithmen zu gelangen. Die Ergebnisse werden laufend in die Datenbank eingepflegt. «Die Ressourcen, die wir in die Entwicklung des Atlas der Automatisierung gesteckt haben, veranschaulichen den Kern des Problems: Algorithmen haben das Potenzial, unsere Grundrechte und unsere Gesellschaft zu beeinflussen – doch Informationen darüber, wo und wie sie dies tun, sind für Betroffene nicht einfach zugänglich, sondern müssen aufwändig und durch die Zivilgesellschaft recherchiert werden», so Tobias Urech, Campaigner bei AlgorithmWatch CH und zuständig für das Projekt. «Ohne diese Transparenz ist es aber für Betroffene quasi unmöglich, sich zur Wehr zu setzen», so Urech weiter.
Der Atlas der Automatisierung richtet sich an Forscher*innen, Journalist*innen und an die breite Öffentlichkeit. Das Verzeichnis soll somit einen Auftakt machen, um die Transparenz zu fördern – als ersten Schritt auf dem Weg zu einem verantwortungsvollen Einsatz von Algorithmen und KI.