Appell an den Bundesrat
Künstliche Intelligenz mit Verantwortung … ohne Diskriminierung
Algorithmen und Künstliche Intelligenz (KI) sollen uns allen zugutekommen. Dafür müssen wir sicherstellen, dass die Systeme verantwortungsvoll eingesetzt werden – und keine Menschen diskriminieren. Wir rufen den Bundesrat deshalb dazu auf, den Schutz vor Diskriminierung durch Algorithmen zu einer Priorität der kommenden Regulierungen rund um KI zu machen.
Jetzt Appell unterzeichnen
Der Schutz vor Diskriminierung braucht ein Update. Denn der Einsatz von Algorithmen & KI kann Menschen diskriminieren.
Hinweis: Den Appell haben wir im September 2024 der Bundeskanzlei übergeben.
Unser Appell an den Bundesrat
Algorithmen und KI versprechen viel – und gleichzeitig zeigen zahlreiche Beispiele, dass ihr Einsatz bestehende Ungerechtigkeiten übernehmen, vervielfachen und verfestigen kann. Ein Algorithmus im Vereinigten Königreich verdächtigte etwa Menschen mit Behinderungen überproportional oft des Sozialleistungsbetrugs und unterzog sie bürokratischen Prüfungen.1 In den Niederlanden wurden tausende Familien in existenzielle Not getrieben, als ein diskriminierender Algorithmus sie fälschlicherweise aufforderte, über Jahre erhaltene staatliche Kinderbetreuungsgelder zurückzuzahlen.2
Diese Herausforderung lässt sich nicht allein auf technischer Ebene lösen. Das zeigt das Beispiel eines grossen Onlinehändlers. Wie Medien berichten, entwickelte das Unternehmen eine Software, um Einstellungsprozesse effizienter zu gestalten. Noch in der Testphase stellte sich jedoch heraus, dass sein Empfehlungsalgorithmus dazu neigte, die Lebensläufe von Frauen automatisch auszusortieren. Versuche, dies auf technischer Ebene zu beheben, blieben erfolglos.3
Algorithmen und KI können in verschiedensten Bereichen unser Leben beeinflussen, sei es, um unsere Leistung am Arbeitsplatz zu messen, uns Inhalte auf Social Media anzuzeigen, unsere Kreditwürdigkeit einzuschätzen, Studierende zu bewerten, Straffälligkeit vorherzusagen oder staatliche Leistungen zuzuweisen. Auch in der Schweiz ist dies vermehrt der Fall.4 Wenn dabei Diskriminierungen auftreten, hat dies weitreichende Folgen für die Betroffenen.5 Der bestehende gesetzliche Rahmen in der Schweiz bietet davor jedoch zu wenig wirksamen Schutz.6
Doch nun tut sich etwas! Der Bundesrat prüft bis Ende 2024 mögliche Ansätze zur Regulierung von KI und wird darauf basierend Massnahmen ergreifen. Wir rufen den Bundesrat dazu auf, diese Gelegenheit zu nutzen:
Regulierungen rund um KI sollten darauf abzielen, einen verantwortungsvollen Umgang mit Algorithmen und KI sicherzustellen, der Grundrechte achtet und allen zugutekommt. Der Einsatz von KI kann durchaus Nutzen für Wissenschaft, Wirtschaft und Gesellschaft bringen. Dies gelingt aber nur, wenn die Herausforderungen angegangen und berechtigte Befürchtungen ernst genommen werden. Menschen sollen wirksam vor Diskriminierung durch Algorithmen geschützt werden und sich dagegen wehren können – unabhängig davon, ob diese von Privaten oder Behörden genutzt werden. Der Schutz vor Diskriminierung durch Algorithmen muss damit zu einer der Prioritäten der kommenden Regulierungen rund um KI werden.
Quellenhinweise:
Unterstützende Organisationen
«Wenn eine KI meinen Lebenslauf aufgrund meines Geschlechts schlechter bewertet, ist das ein Problem. Es kann nicht sein, dass Menschen auf dem Arbeitsmarkt algorithmisch diskriminiert werden. Chancengerechtigkeit ist hier zentral. Der Bundesrat kann jetzt für mehr Gleichstellung aller Menschen sorgen.»Patrizia Laeri
CEO ellexx Universe AG
«Als Vertreterin und Mitglied einer marginalisierten Gruppe, die derzeit direkt von Diskriminierung durch KI betroffen ist, bin ich besorgt. Der Schutz vor Diskriminierung muss jetzt verstärkt werden.»Yvonne Apiyo Brändle-Amolo
Präsidentin Swiss Diversity & Präsidentin des Global Minority Parliamentarians Caucus
«KI braucht gute Regulierung – dazu gehört Schutz vor Diskriminierung. Denn unsere Grundrechte müssen auch beim Einsatz von Algorithmen und KI gewahrt werden.»Kurt Pärli
Professur für Soziales Privatrecht, Universität Basel
«Beobachten und Däumchen drehen sind zwei Dinge, die der Bundesrat gerne macht. Bei der KI wäre das fatal – gerade für die Schwächsten unter uns. Deshalb unterstütze ich den Appell.»Karpi
Satiriker & Filmproduzent
«Es ist eine Frage der Gerechtigkeit: Algorithmen und KI sollen allen zugutekommen, nicht nur einigen wenigen. Hinter diesen Aufruf stellt sich heute eine breite Allianz – ein wichtiges Signal.»Angela Müller
Geschäftsleiterin AlgorithmWatch CH
