AlgorithmWatch ist eine Menschenrechtsorganisation mit Sitz in Zürich und Berlin. Wir setzen uns dafür ein, dass Algorithmen und Künstliche Intelligenz (KI) Gerechtigkeit, Demokratie und Nachhaltigkeit stärken, statt sie zu schwächen.

Blog

21. März 2024

#discrimination

Diskriminierung 2.0

Wie Rassismus in Algorithmen weiterlebt

KI und algorithmische Systeme können Menschen aufgrund ihrer Herkunft benachteiligen oder gar rassistisch diskriminieren – auch im Arbeitsmarkt. Zum internationalen Tag gegen Rassismus beleuchten AlgorithmWatch CH, humanrights.ch und das National Coalition Building Institute NCBI, wie in Jobbewerbungsverfahren eingesetzte automatisierte Systeme Ungleichheiten reproduzieren können.

Medienmitteilung

Europarat: KI-Konvention wird Menschenrechte nicht angemessen schützen

Ende letzter Woche hat sich der Europarat auf eine Konvention zu Künstlicher Intelligenz (KI) geeinigt – und damit den Weg frei gemacht für den ersten bindenden internationalen Vertrag zu KI. Ausnahmen und Schlupflöcher für Unternehmen und Sicherheitsbehörden lassen befürchten, dass die Konvention Menschenrechte, Demokratie und Rechtsstaatlichkeit nicht umfassend zu schützen vermag.

Blog

18. Januar 2024

#regulierung #work

Arbeitnehmendenschutz

Künstliche Intelligenz verändert die Arbeitswelt – was macht die Schweiz?

Spätestens seit der Einführung von ChatGPT sind KI-Anwendungen im Berufsalltag vieler Menschen omnipräsent. Doch Arbeitgeber setzen KI-Tools auch für andere Zwecke ein, etwa zum Management des Personals. Das birgt Risiken. Dank eines Nationalrats und einer Nationalrätin tut sich nun auch im Parlament was, damit die Politik auf diese Herausforderungen reagiert.

Fotomontage: AlgorithmWatch CH, Porträtfotos: parlament.ch

Atlas der Automatisierung

Um Sozialleistungsbetrug aufzudecken, Arbeitsleistung zu messen, die Kreditwürdigkeit einer Person vorherzusagen oder um uns online personalisierte Inhalte anzuzeigen – Algorithmen und sogenannte «Künstliche Intelligenz» prägen heute unseren Alltag. Wo, von wem und wozu diese algorithmischen Systeme eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel.

Grafik: Beate Autering

Blog

31. August 2023 (Update: 25. Oktober 2023)

#Oeffentlicheverwaltung #publicsector

Aufgedeckt

Algorithmischer Flickenteppich in Schweizer Verwaltungen

Welche algorithmischen Systeme nutzen die Kantone, um Entscheidungen über Menschen zu beeinflussen? Diese Frage haben wir den 26 kantonalen Staatskanzleien gestellt und deren Antworten ausgewertet. Spoiler: Viele Kantone sind nicht in der Lage, vollständige Informationen über die von ihnen genutzten Systeme zur Verfügung zu stellen.

Medienmitteilung

smartvote-Umfrage: Grosse Mehrheit für ein Verbot der Gesichtserkennung

Rund 80 Prozent der Personen, die für die eidgenössischen Wahlen kandidieren, sind für ein Verbot der automatischen Gesichtserkennung im öffentlichen Raum. Die Mehrheit in allen Parteien ausser der SVP lehnt diese Form der Massenüberwachung ab. Das Bündnis «Grundrechte schützen – Gesichtserkennung stoppen» begrüsst das eindeutige Resultat der smartvote-Umfrage.

Stories

Wie beeinflussen automatische Entscheidungssysteme unser aller Alltag? Wo werden sie konkret eingesetzt und was läuft dabei schief? Unsere journalistischen Recherchen zu aktuellen Fälle und Fehlern automatischer Entscheidungssysteme. Zu den Stories.

Neue Recherche

FOTRES: Simple Mathematik mit komplizierten Folgen

Für die soziale Durchmischung teilt in Uster ein Computer Klassen ein

Digitale Türsteher: KI in der Personalauswahl

Projekte

Mit konkreten Forschungsprojekten untersuchen wir die Risiken und Auswirkungen von automatisierten Entscheidungssystemen auf bestimmte gesellschaftliche Bereiche. Und Sie können mitmachen! Zu unseren Projekten.

HUMAN

Menschen müssen dafür sorgen, dass KI den Menschen dient

Neue Recherche

Wahlen 2023: Wie ChatGPT, Bing Chat und Co. die öffentliche Meinungsbildung gefährden könnten

FINDHR Titelbild

FINDHR

Algorithmenbasierte Diskriminierung in Job-Auswahlverfahren vermeiden

Publikationen

Hintergrundberichte, Analysen und Arbeitspapiere – unterstützt durch ein Netzwerk von Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen. Zu unseren Publikationen.

Serie mit Fallbeispielen

Diskriminierung 2.0: Wie Algorithmen Menschen diskriminieren

Was Gewerkschaften über Algorithmen am Arbeitsplatz wissen müssen

Schlussbericht: Untersuchung zu Microsoft Bing Chat

KI-Chatbot liefert falsche Antworten auf Fragen zu demokratischen Wahlen

Positionen

Lesen Sie unsere Stellungnahmen zu laufenden politischen Entwicklungen und Regulierungsprozessen rund um automatisierte Entscheidungsprozesse. Zu unsere Positionen.

Medienmitteilung

KI-Konvention des Europarats: Kein Freifahrtschein für Unternehmen und Sicherheitsbehörden!

Medienmitteilung

Europa reguliert KI – zugunsten von Big Tech und Sicherheit-Hardlinern

Positionspapier

Algorithmen am Arbeitsplatz: Mitarbeitende jetzt einbeziehen

Blog

Aktuelle Veranstaltungen, Kampagnen und Neuigkeiten über unser Team – hier finden Sie die Updates von AlgorithmWatch CH.

Diskriminierung 2.0

Wie Algorithmen Frauen diskriminieren

Neues Gesicht im Vorstand von AlgorithmWatch CH

Kurz erklärt

Wie Algorithmen diskriminieren – und was wir dagegen tun sollten