Appell an den Bundesrat

Künstliche Intelligenz mit Verantwortung … ohne Diskriminierung

Algorithmen und Künstliche Intelligenz (KI) sollen uns allen zugutekommen. Dafür müssen wir sicherstellen, dass die Systeme verantwortungsvoll eingesetzt werden – und keine Menschen diskriminieren. Wir rufen den Bundesrat deshalb dazu auf, den Schutz vor Diskriminierung durch Algorithmen zu einer Priorität der kommenden Regulierungen rund um KI zu machen.

1'946 / 2'000 Unterzeichner*innen

Jetzt Appell unterzeichnen

Der Schutz vor Diskriminierung braucht ein Update. Denn der Einsatz von Algorithmen & KI kann Menschen diskriminieren.

Hinweis: Den Appell haben wir im September 2024 der Bundeskanzlei übergeben.

Unser Appell an den Bundesrat

Algorithmen und KI versprechen viel – und gleichzeitig zeigen zahlreiche Beispiele, dass ihr Einsatz bestehende Ungerechtigkeiten übernehmen, vervielfachen und verfestigen kann. Ein Algorithmus im Vereinigten Königreich verdächtigte etwa Menschen mit Behinderungen überproportional oft des Sozialleistungsbetrugs und unterzog sie bürokratischen Prüfungen.1 In den Niederlanden wurden tausende Familien in existenzielle Not getrieben, als ein diskriminierender Algorithmus sie fälschlicherweise aufforderte, über Jahre erhaltene staatliche Kinderbetreuungsgelder zurückzuzahlen.2

Diese Herausforderung lässt sich nicht allein auf technischer Ebene lösen. Das zeigt das Beispiel eines grossen Onlinehändlers. Wie Medien berichten, entwickelte das Unternehmen eine Software, um Einstellungsprozesse effizienter zu gestalten. Noch in der Testphase stellte sich jedoch heraus, dass sein Empfehlungsalgorithmus dazu neigte, die Lebensläufe von Frauen automatisch auszusortieren. Versuche, dies auf technischer Ebene zu beheben, blieben erfolglos.3

Algorithmen und KI können in verschiedensten Bereichen unser Leben beeinflussen, sei es, um unsere Leistung am Arbeitsplatz zu messen, uns Inhalte auf Social Media anzuzeigen, unsere Kreditwürdigkeit einzuschätzen, Studierende zu bewerten, Straffälligkeit vorherzusagen oder staatliche Leistungen zuzuweisen. Auch in der Schweiz ist dies vermehrt der Fall.4 Wenn dabei Diskriminierungen auftreten, hat dies weitreichende Folgen für die Betroffenen.5 Der bestehende gesetzliche Rahmen in der Schweiz bietet davor jedoch zu wenig wirksamen Schutz.6

Doch nun tut sich etwas! Der Bundesrat prüft bis Ende 2024 mögliche Ansätze zur Regulierung von KI und wird darauf basierend Massnahmen ergreifen. Wir rufen den Bundesrat dazu auf, diese Gelegenheit zu nutzen:

Regulierungen rund um KI sollten darauf abzielen, einen verantwortungsvollen Umgang mit Algorithmen und KI sicherzustellen, der Grundrechte achtet und allen zugutekommt. Der Einsatz von KI kann durchaus Nutzen für Wissenschaft, Wirtschaft und Gesellschaft bringen. Dies gelingt aber nur, wenn die Herausforderungen angegangen und berechtigte Befürchtungen ernst genommen werden. Menschen sollen wirksam vor Diskriminierung durch Algorithmen geschützt werden und sich dagegen wehren können – unabhängig davon, ob diese von Privaten oder Behörden genutzt werden. Der Schutz vor Diskriminierung durch Algorithmen muss damit zu einer der Prioritäten der kommenden Regulierungen rund um KI werden.

Quellenhinweise:

  1. Medienbericht, The Guardian ↩︎
  2. Medienbericht, POLITICO ↩︎
  3. Medienbericht, Reuters ↩︎
  4. «Atlas der Automatisierung», AlgorithmWatch CH ↩︎
  5. Fallbeispiele, AlgorithmWatch CH & humanrights.ch ↩︎
  6. Positionspapier, AlgorithmWatch CH ↩︎

Unterstützende Organisationen

Erstunterzeichner*innen

Sophie Achermann, Geschäftsführerin Public Discourse Foundation | Marianne Aeberhard, Geschäftsleiterin humanrights.ch | Vania Alleva, Unia Präsidentin | Prof. Dr. Tilmann Altwicker, Rechtswissenschaftliche Fakultät, Universität Zürich | Cesla Amarelle, Präsidentin der Eidgenössischen Kommission für Frauenfragen EKF | Sanija Ameti, Co-Präsidentin Operation Libero, Doktorandin Cybersecurity and International Law & Gemeinderätin GLP | Gerhard Andrey, Nationalrat GRÜNE Freiburg | Yvonne Apiyo Brändle-Amolo, Präsidentin Swiss Diversity & Präsidentin des Global Minority Parliamentarians Caucus | Sibel Arslan, Nationalrätin GRÜNE Basel-Stadt | Christina Bachmann-Roth, Präsidentin die Mitte Frauen Schweiz | Dorothea Baur, Beraterin und Dozentin KI und Ethik | Kathrin Bertschy, Nationalrätin GLP Bern, Co-Präsidentin alliance f | Dominik Blunschy, Nationalrat die Mitte Schwyz | Prof. Dr. Margarita Boenig-Liptsin, Assistant Professor for Ethics, Technology and Society, ETH Zürich | Prof. Dr. David Bozzini, Professor für Anthropologie, Universität Freiburg | Cécile Bühlmann, alt Nationalrätin, Vizepräsidentin Gesellschaft Minderheiten in der Schweiz | Anne-Marie Buzatu, Executive Director ICT4Peace Foundation | Isabelle Chappuis, Nationalrätin die Mitte Waadt | PD Dr. Markus Christen, Digital Ethics Lab, Universität Zürich | Prof. Dr. Isabelle Collet, Informatikerin, Professorin für Erziehungswissenschaften und Spezialistin für Genderfragen im digitalen Bereich, Universität Genf | Damien Cottier, Nationalrat FDP Neuenburg | Prof. Maya Dougoud, Assoziierte Professorin HSW-FR, Präsidentin und Mitbegründerin von strukturelle | Claudine Esseiva, Grossrätin FDP Kanton Bern & Unternehmensinhaberin | Olivier Feller, Nationalrat FDP Waadt | Doris Fiala, alt Nationalrätin FDP & Unternehmerin im Bereich Risikomanagement | Prof. Dr. Nula Katharina Frei, Rechts Fakultät, FernUni | Dr. Nic Frei, Jurist | Mona Gamie, Dragqueen | Dr. Sarah Genner, Digitalexpertin & Dozentin | Prof. Dr. Solange Ghernaouti, Professorin für Cybersicherheit, Cyberverteidigung und Bekämpfung der Cyberkriminalität, Universität Lausanne | Balthasar Glättli, Nationalrat GRÜNE Zürich | Anja Glover, Moderatorin und Rassismus-Expertin | André Golliez, Präsident Swiss Data Alliance | Alain Gut, Public Affairs / Government and Regulatory Affairs, IBM Schweiz | Prof. Dominik Hangartner, Professor für Public Policy, ETH Zürich | Prof. Christoph Heitz, Business Engineering and Operations Management, Zürcher Hochschule für Angewandte Wissenschaften | Corinna Hertweck, Doktorandin zum Thema Diskriminierung durch Algorithmen, Universität Zürich & Zürcher Hochschule für Angewandte Wissenschaften | Dr.rer.pol. Manuela Honegger, Expertin in Digitalisierung in Sozialwesen | Romaine Jean, Beraterin, Kommunikationsberaterin | Marc Jost, Nationalrat EVP Bern | Charles Juillard, Ständerat die Mitte Jura | Alexandra Karle, Geschäftsleiterin, Amnesty International - Schweizer Sektion | Karpi, Satiriker, Filmproduzent | Sebastien Kessler, Vorstandmitglied Inclusion Handicap | Prof. Dr. Peter G. Kirchschläger, Ethik-Professor und Leiter des Instituts für Sozialethik ISE, Universität Luzern  | Patrizia Laeri, CEO ellexx Universe AG | Sandra Lüthi, Fachexpertin in Sensibilisierung und Prävention Cybersicherheit, Vorstandsmitglied von Women in Cyber Switzerland | Fabian Lütz, Doktorand im Bereich Algorithmischer Diskriminierung, Universität Lausanne | Prof. Dr. Matthias Mahlmann, Rechtswissenschaftliche Fakultät, Universität Zürich | Min Li Marti, Nationalrätin SP Zürich | Prof. Dr. Sylvain Métille, Assoziierter Professor, Rechtswissenschaftliche Fakultät, Universität Lausanne | Dr. Anne Mollen, Post-Doc Researcher, Universität Münster | Tarek Naguib, Koordinator NGO-Plattform Menschenrechte Schweiz | Liliane Obrecht, Doktorandin an der Universität Basel, Vorstandsmitglied AlgorithmWatch CH | Dr. Franziska Oehmer-Pedrazzi, Kommunikationswissenschaftlerin | Prof. Dr. iur. Kurt Pärli, Professur für Soziales Privatrecht, Universität Basel | Prisca Quadroni-Renella, schweizerische Anwältin, Geschäftsführerin AI Legal & Strategy Consulting AG, Präsidentin «Women Experts in AI – WE AI» | Estelle Revaz, Nationalrätin SP Genf | Dr. Johan Rochel, Co-Geschäftsführer ethix, Lab for Innovation Ethics | Kevin Schawinski, Co-Founder & CEO Modulos AG | Ursula Schneider Schüttel, Präsidentin der Eidgenössischen Kommission gegen Rassismus EKR | Prof. Dr. Heiko Schuldt, Professor für Informatik & Co-Leiter des Forschungsnetzwerks Responsible Digital Society, Universität Basel | Maike Sieler, Doktorandin im Bereich KI, Macht und Religion | Prof. Dr. Christoph Sigrist, Präsident der Gesellschaft Minderheiten in der Schweiz und Pfarrer | Prof. Dr. Monika Simmler, Professorin für Straf-, Strafprozessrecht und Kriminologie, Universität St.Gallen | Dr. Daniel Stauffacher, Präsident ICT4Peace Foundation | Martin Steiger, Anwalt für Recht im digitalen Raum, Steiger Legal AG | Dr. Jean-Daniel Strub, Co-Geschäftsführer ethix, Lab for Innovation Ethics | Prof. Dr. Florent Thouvenin, Inhaber des Lehrstuhls für Informations- und Kommunikationsrecht und Direktor des Center for Information Technology, Society, and Law (ITSL), Universität Zürich | Laura Tocmacov, Geschäftsführerin und Mitbegründerin impactIA Fondation | Dr. David Vasella, Rechtsanwalt, Gründer von datenrecht.ch | Dr. Stephanie Volz, Wissenschaftliche Geschäftsführerin des Center for Information Technology, Society, and Law (ITSL), Universität Zürich | Xenia Wassihun, Zentralsekretärin für Gleichstellung und den Sozialbereich VPOD | Prof. Dr. Sophie Weerts, Assoziierte Professorin für öffentliches Recht, Universität Lausanne | Anja Wyden Guelpa, Unternehmerin, Dozentin und Verwaltungsrätin | Nicolas Zahn, Digitalexperte

«Wenn eine KI meinen Lebenslauf aufgrund meines Geschlechts schlechter bewertet, ist das ein Problem. Es kann nicht sein, dass Menschen auf dem Arbeitsmarkt algorithmisch diskriminiert werden. Chancengerechtigkeit ist hier zentral. Der Bundesrat kann jetzt für mehr Gleichstellung aller Menschen sorgen.»
Patrizia Laeri
CEO ellexx Universe AG
«Als Vertreterin und Mitglied einer marginalisierten Gruppe, die derzeit direkt von Diskriminierung durch KI betroffen ist, bin ich besorgt. Der Schutz vor Diskriminierung muss jetzt verstärkt werden.»
Yvonne Apiyo Brändle-Amolo
Präsidentin Swiss Diversity & Präsidentin des Global Minority Parliamentarians Caucus
«KI braucht gute Regulierung – dazu gehört Schutz vor Diskriminierung. Denn unsere Grundrechte müssen auch beim Einsatz von Algorithmen und KI gewahrt werden.»
Kurt Pärli
Professur für Soziales Privatrecht, Universität Basel
«Beobachten und Däumchen drehen sind zwei Dinge, die der Bundesrat gerne macht. Bei der KI wäre das fatal – gerade für die Schwächsten unter uns. Deshalb unterstütze ich den Appell.»
Karpi
Satiriker & Filmproduzent
«Es ist eine Frage der Gerechtigkeit: Algorithmen und KI sollen allen zugutekommen, nicht nur einigen wenigen. Hinter diesen Aufruf stellt sich heute eine breite Allianz – ein wichtiges Signal.»
Angela Müller
Geschäftsleiterin AlgorithmWatch CH
Angela Müller