AlgorithmWatch ist eine Menschenrechtsorganisation mit Sitz in Zürich und Berlin. Wir setzen uns dafür ein, dass Algorithmen und Künstliche Intelligenz (KI) Gerechtigkeit, Demokratie und Nachhaltigkeit stärken, statt sie zu schwächen.

Blog

18. März 2024

#councilofeurope

Medienmitteilung

Europarat: KI-Konvention wird Menschenrechte nicht angemessen schützen

Ende letzter Woche hat sich der Europarat auf eine Konvention zu Künstlicher Intelligenz (KI) geeinigt – und damit den Weg frei gemacht für den ersten bindenden internationalen Vertrag zu KI. Ausnahmen und Schlupflöcher für Unternehmen und Sicherheitsbehörden lassen befürchten, dass die Konvention Menschenrechte, Demokratie und Rechtsstaatlichkeit nicht umfassend zu schützen vermag.

Blog

8. März 2024

#discrimination

Diskriminierung 2.0

Wie Algorithmen Frauen diskriminieren

Bei der Erstellung von Bildern durch KI, der Verbreitung von Stellenangeboten auf Social Media oder dem Zugang zu sozialen Leistungen können Frauen von Algorithmen benachteiligt werden. Zum internationalen Frauentag beleuchten AlgorithmWatch CH, humanrights.ch und alliance F die geschlechtsspezifischen Diskriminierungen im Zusammenhang mit dem Einsatz von Algorithmen.

Blog

18. Januar 2024

#regulierung #work

Arbeitnehmendenschutz

Künstliche Intelligenz verändert die Arbeitswelt – was macht die Schweiz?

Spätestens seit der Einführung von ChatGPT sind KI-Anwendungen im Berufsalltag vieler Menschen omnipräsent. Doch Arbeitgeber setzen KI-Tools auch für andere Zwecke ein, etwa zum Management des Personals. Das birgt Risiken. Dank eines Nationalrats und einer Nationalrätin tut sich nun auch im Parlament was, damit die Politik auf diese Herausforderungen reagiert.

Fotomontage: AlgorithmWatch CH, Porträtfotos: parlament.ch

Atlas der Automatisierung

Um Sozialleistungsbetrug aufzudecken, Arbeitsleistung zu messen, die Kreditwürdigkeit einer Person vorherzusagen oder um uns online personalisierte Inhalte anzuzeigen – Algorithmen und sogenannte «Künstliche Intelligenz» prägen heute unseren Alltag. Wo, von wem und wozu diese algorithmischen Systeme eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel.

Grafik: Beate Autering

Blog

31. August 2023 (Update: 25. Oktober 2023)

#Oeffentlicheverwaltung #publicsector

Aufgedeckt

Algorithmischer Flickenteppich in Schweizer Verwaltungen

Welche algorithmischen Systeme nutzen die Kantone, um Entscheidungen über Menschen zu beeinflussen? Diese Frage haben wir den 26 kantonalen Staatskanzleien gestellt und deren Antworten ausgewertet. Spoiler: Viele Kantone sind nicht in der Lage, vollständige Informationen über die von ihnen genutzten Systeme zur Verfügung zu stellen.

Medienmitteilung

smartvote-Umfrage: Grosse Mehrheit für ein Verbot der Gesichtserkennung

Rund 80 Prozent der Personen, die für die eidgenössischen Wahlen kandidieren, sind für ein Verbot der automatischen Gesichtserkennung im öffentlichen Raum. Die Mehrheit in allen Parteien ausser der SVP lehnt diese Form der Massenüberwachung ab. Das Bündnis «Grundrechte schützen – Gesichtserkennung stoppen» begrüsst das eindeutige Resultat der smartvote-Umfrage.

Stories

Wie beeinflussen automatische Entscheidungssysteme unser aller Alltag? Wo werden sie konkret eingesetzt und was läuft dabei schief? Unsere journalistischen Recherchen zu aktuellen Fälle und Fehlern automatischer Entscheidungssysteme. Zu den Stories.

Foto: Shahadat Rahman | Unsplash

14. Juli 2023

Neue Recherche

FOTRES: Simple Mathematik mit komplizierten Folgen

Ein einfacher Algorithmus zur Ermittlung der Rückfallwahrscheinlichkeit von Straftäter*innen mutiert zu einem eigenen Diagnosesystem. Die Fachwelt hält seinen Einsatz für ethisch fragwürdig.

Weiterlesen

Projekte

Mit konkreten Forschungsprojekten untersuchen wir die Risiken und Auswirkungen von automatisierten Entscheidungssystemen auf bestimmte gesellschaftliche Bereiche. Und Sie können mitmachen! Zu unseren Projekten.

Foto: Amanda Dalbjörn / Unsplash

29. Februar 2024

HUMAN

Menschen müssen dafür sorgen, dass KI den Menschen dient

Wenn die Polizei versucht, mittels Algorithmen die Rückfallwahrscheinlichkeit von Straftäter*innen zu berechnen, wenn Arbeitgeber mit KI Bewerbungen vorsortieren oder wenn der KI-Chatbot Medienartikel erstellt: wer ist dann betroffen von diesen algorithmisch generierten Inhalten, Empfehlungen und Entscheidungen? Wie können Betroffene einbezogen werden, um ihre Rechte und Interessen zu sichern?

Weiterlesen

Publikationen

Hintergrundberichte, Analysen und Arbeitspapiere – unterstützt durch ein Netzwerk von Wissenschaftler·innen forschen wir zu den Auswirkungen algorithmischer Entscheidungen und ihren ethischen Fragestellungen. Zu unseren Publikationen.

Serie mit Fallbeispielen

Diskriminierung 2.0: Wie Algorithmen Menschen diskriminieren

Anhand von konkreten Fallbeispielen beleuchten wir unterschiedlichste Fälle von algorithmischer Diskriminierung.

Weiterlesen

Positionen

Lesen Sie unsere Stellungnahmen zu laufenden politischen Entwicklungen und Regulierungsprozessen rund um automatisierte Entscheidungsprozesse. Zu unsere Positionen.

5. März 2024

Medienmitteilung

KI-Konvention des Europarats: Kein Freifahrtschein für Unternehmen und Sicherheitsbehörden!

Die KI-Konvention soll das erste rechtsverbindliche internationale Übereinkommen zu KI werden. Ab dem 11. März 2024 finden die abschliessenden Verhandlungen dazu in Strassburg statt. Mit am Verhandlungstisch sitzen die Mitglieder des Europarats (darunter die Schweiz und die EU-Staaten) und Nicht-Mitglieder wie die USA, Japan oder Kanada. AlgorithmWatch, über 90 Organisationen der Zivilgesellschaft und prominente Wissenschaftler*innen fordern die verhandelnden Staaten auf, Unternehmen und nationalen Sicherheitsbehörden beim Einsatz von KI nicht einfach freie Hand zu lassen.

Weiterlesen

Blog

Aktuelle Veranstaltungen, Kampagnen und Neuigkeiten über unser Team – hier finden Sie die Updates von AlgorithmWatch CH.

29. Februar 2024

Neues Gesicht im Vorstand von AlgorithmWatch CH

Nach langjährigem Engagement und als Co-Gründer der Organisation übergibt Lorenz Matzat den Stab als Vorstandsmitglied von AlgorithmWatch CH an Liliane Obrecht.

Weiterlesen