#publicsector (67 Ergebnisse)

Stellungnahme

Die UN muss sich entscheiden: Will sie der Menschheit helfen oder dem KI-Hype nachgeben?

Wie sollte KI international reguliert werden? Mit dieser schwierigen Frage beschäftigt sich aktuell der Beirat für Künstliche Intelligenz des UN-Generalsekretärs in seinem Zwischenbericht. In einem kürzlich durchgeführten Konsultationsprozess haben wir dazu Stellung bezogen und einige bedenkliche Aspekte des Berichts hervorgehoben.

HUMAN

Menschen müssen dafür sorgen, dass KI den Menschen dient

Wenn die Polizei versucht, mittels Algorithmen die Rückfallwahrscheinlichkeit von Straftäter*innen zu berechnen, wenn Arbeitgeber mit KI Bewerbungen vorsortieren oder wenn der KI-Chatbot Medienartikel erstellt: wer ist dann betroffen von diesen algorithmisch generierten Inhalten, Empfehlungen und Entscheidungen? Wie können Betroffene einbezogen werden, um ihre Rechte und Interessen zu sichern?

Kurz erklärt

Wie Algorithmen diskriminieren – und was wir dagegen tun sollten

Algorithmische und KI-basierte Systeme werden sowohl von Behörden als auch von Unternehmen immer häufiger eingesetzt – unter anderem, um Prognosen zu erstellen, Empfehlungen zu geben oder Entscheide zu fällen. Ihr Einsatz kann allerdings zu Diskriminierungen führen. Das heutige Diskriminierungsverbot in der Schweiz reicht nicht aus und muss verbessert werden, um vor algorithmischen Diskriminierungen zu schützen. Dieses Anliegen findet nun auch in der Politik Gehör.

Regulierung von Algorithmen & KI

Quo Vadis Bundesrat?

Während sich die Verhandlungen zur KI-Verordnung (AI Act) auf EU-Ebene ihrem Ende nähern, steht die Schweiz erst am Anfang, wenn es darum geht, grosse und kleine Gesetzeslücken rund um die Regulierung von Algorithmen & KI zu schliessen. In diesem Artikel stellen wir einige Aspekte dieser politischen Entwicklungen vor.

Medienmitteilung

Zivilgesellschaft fordert: Kein Abwarten bei der Regulierung von KI und ADM-Systemen

Die Digitale Gesellschaft, Pour Demain, AlgorithmWatch CH, CH++ und opendata.ch fordern, dass es mit der Regulierung von Künstlicher Intelligenz und automatisierten Entscheidungssystemen in der Schweiz voran geht. Gemäss den Organisationen braucht es einen gesetzlichen Rahmen, um Rechtssicherheit und gemeinwohlorientierte Innovation dieser neuen Technologien sicherzustellen.

Stellungnahme zur Vernehmlassung

Berner Datenschutzgesetz: Mehr Transparenz, weniger Überwachung

Die Totalrevision des Berner Datenschutzgesetzes sollte dazu genutzt werden, um Rahmenbedingungen für den Einsatz algorithmischer Systeme zu setzen, die Menschenrechte und Rechtsstaat stärken.

Medienmitteilung

smartvote-Umfrage: Grosse Mehrheit für ein Verbot der Gesichtserkennung

Rund 80 Prozent der Personen, die für die eidgenössischen Wahlen kandidieren, sind für ein Verbot der automatischen Gesichtserkennung im öffentlichen Raum. Die Mehrheit in allen Parteien ausser der SVP lehnt diese Form der Massenüberwachung ab. Das Bündnis «Grundrechte schützen – Gesichtserkennung stoppen» begrüsst das eindeutige Resultat der smartvote-Umfrage.

Medienmitteilung

Künstliche Intelligenz: In der Schweiz diskriminieren Algorithmen ungestraft

In ihrem neuen Positionspapier kritisiert die Menschenrechtsorganisation AlgorithmWatch CH das veraltete Schweizer Antidiskriminierungsrecht, das deutliche Lücken beim Schutz vor Diskriminierung durch Algorithmen aufweist. Das Papier zeigt umfassend auf, wie Künstliche Intelligenz und weitere algorithmische Systeme zu neuartigen Formen von Diskriminierungen führen können. AlgorithmWatch CH fordert daher eine Ausweitung des Antidiskriminierungsrechts, unter anderem durch ein allgemeines Diskriminierungsverbot für Private sowie kollektive Rechtsmittel.

Positionspapier

Diskriminierende Algorithmen: So gelingt der Schutz

Wenn Algorithmen Prognosen erstellen, Empfehlungen geben oder Entscheidungen fällen, besteht immer das Risiko, dass sie dabei Menschen diskriminieren. Doch wie diskriminieren Algorithmen genau? Und was sollte die Politik dagegen tun? Wir beleuchten den Handlungsbedarf und zeigen Lösungen für einen besseren Schutz vor algorithmischer Diskriminierung.

Festrede

Datenschutz: gestern, heute und in Zukunft

Bern, 14.09.2023 – Am Jubiläumsevent zu 30 Jahre Schweizer Datenschutzgesetz, zu dem der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) einlud, hielt Angela Müller, Leiterin AlgorithmWatch CH, die Festrede – es gilt das gesprochene Wort.

Medienmitteilung

Mehrere Städte und Kantone wollen Gesichtserkennung verbieten

Automatische Gesichtserkennung im öffentlich zugänglichen Raum soll verboten werden. Das verlangen parlamentarische Vorstösse in mehreren Städten und Kantonen. Die Kampagne von AlgorithmWatch CH, Amnesty International und Digitale Gesellschaft für ein Verbot der biometrischen Massenüberwachung zeigt damit konkrete Erfolge.

Aufgedeckt

Algorithmischer Flickenteppich in Schweizer Verwaltungen

Welche algorithmischen Systeme nutzen die Kantone, um Entscheidungen über Menschen zu beeinflussen? Diese Frage haben wir den 26 kantonalen Staatskanzleien gestellt und deren Antworten ausgewertet. Spoiler: Viele Kantone sind nicht in der Lage, vollständige Informationen über die von ihnen genutzten Systeme zur Verfügung zu stellen.

Gastbeitrag

Automatisierte Strafjustiz auf wissenschaftlich wackeligen Beinen

In der Schweiz werden Algorithmen eingesetzt, um das Rückfallrisiko von Straftäter*innen einzuschätzen. Eine journalistische Recherche im Auftrag von AlgorithmWatch CH zeigt, dass sie an vielen Orten zur Anwendung kommen, auch wenn dies für Betroffene kaum nachvollziehbar ist. Tim Räz, Forscher an der Universität Bern, erläutert in diesem Gastbeitrag exklusiv, wie fragwürdig diese Systeme aus wissenschaftlicher Sicht sind.

Neue Recherche

FOTRES: Simple Mathematik mit komplizierten Folgen

Ein einfacher Algorithmus zur Ermittlung der Rückfallwahrscheinlichkeit von Straftäter*innen mutiert zu einem eigenen Diagnosesystem. Die Fachwelt hält seinen Einsatz für ethisch fragwürdig.

Stellungnahme zur Vernehmlassung

Auswertung elektronischer Datenträger verletzt Grundrechte von Asylsuchenden

Um die Identität, die Nationalität oder den Reiseweg von Asylsuchenden festzustellen, soll das Staatssekretariat für Migration (SEM) künftig Daten auf deren Mobiltelefonen und Computern auswerten können. Die Auswertung stellt potenziell einen unverhältnismässigen Eingriff in das Grundrecht auf Schutz der Privatsphäre dar.

Kampf in Strassburg: Schutz vor KI-Folgen im Fokus der Zivilgesellschaft

Während die Verhandlungen über eine Konvention zu Künstlicher Intelligenz (KI) im Europarat in eine entscheidende Phase eintreten, erinnern AlgorithmWatch und zehn weitere zivilgesellschaftlichen Organisationen in einem Statement die verhandelnden Staaten an ihr Mandat: den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit zu gewährleisten. Um diesem Mandat gerecht zu werden und sowohl engen staatlichen Interessen als auch der Lobbyarbeit von Konzernen entgegenzuwirken, muss die Stimme der Zivilgesellschaft gehört werden.

Für die soziale Durchmischung teilt in Uster ein Computer Klassen ein

Ein Algorithmus für die Schulzuteilung? Was Klassen gerechter machen würde, löst vielerorts dubiose Ängste aus. Auch in der Zürcher Gemeinde Uster, wo sich die zuständige Schuldirektorin entschieden hat, es trotzdem zu tun.

Atlas der Automatisierung

Um Sozialleistungsbetrug aufzudecken, Arbeitsleistung zu messen, die Kreditwürdigkeit einer Person vorherzusagen oder um uns online personalisierte Inhalte anzuzeigen – Algorithmen und sogenannte «Künstliche Intelligenz» prägen heute unseren Alltag. Wo, von wem und wozu diese algorithmischen Systeme eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel.

Medienmitteilung

‹KI› und Algorithmen in der Schweiz: Licht ins Dunkel der Black Box

Algorithmische Systeme und Künstliche Intelligenz (KI) sind derzeit in aller Munde. Während alle über ChatGPT sprechen, geht derweil vergessen, dass die Automatisierung in der Schweiz bereits umfassend ist: Immer mehr Entscheidungen, die Menschen betreffen, werden von Algorithmen beeinflusst. Wo, von wem und wozu diese eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel – und veröffentlicht eine Übersicht von algorithmischen Systemen, die in der Schweiz im Einsatz sind.

SRF Club: «Künstliche Intelligenz so einsetzen, dass sie uns Menschen nützt und nicht schadet»

Anfang Mai hat die Leiterin von AlgorithmWatch CH in der Sendung Club auf SRF zum Thema Künstliche Intelligenz teilgenommen. Sie hat sich dort für einen verantwortungsvollen Umgang mit Algorithmen eingesetzt und die Positionen von AlgorithmWatch klar gemacht: «Die Künstliche Intelligenz soll den Menschen nützen und nicht schaden.»

Fedpol will Gesichtserkennung einsetzen – und das durch die Hintertür

Der Bundesrat hat anfangs April zugestimmt, dass das Bundesamt für Polizei (Fedpol) sein System zur automatisierten Identifizierung erneuert. Das neue System bietet jedoch auch neue Möglichkeiten für die Analyse von Bildern, die Grundrechtsfragen aufwerfen.

Biometrische Erkennung im öffentlichen Raum – eine Bedrohung für die Menschenrechte

In Flughäfen, Fussballstadien oder bei der Strafverfolgung werden Gesichtserkennungs- und andere biometrische Erkennungssysteme in der Schweiz immer häufiger eingesetzt. Wenn diese Systeme zu Identifizierungszwecken an öffentlich zugänglichen Orten eingesetzt werden, sind sie mit den Grundrechten und Menschenrechten unvereinbar, insbesondere mit dem Recht auf Privatsphäre, der Meinungs- und Versammlungsfreiheit und dem Diskriminierungsverbot.

Erfolg: Lausanne verbietet Gesichtserkennung im öffentlichen Raum!

Der Gemeinderat von Lausanne hat am 28. März 2023 einstimmig parlamentarische Vorstösse angenommen, die Videoüberwachung mit biometrischer Erkennung verbieten sollen. Damit sollte Lausanne die erste Stadt in der Westschweiz werden, die Gesichtserkennung & Co. im öffentlichen Raum verbietet.

Medienmitteilung

Offener Brief mit 17069 Unterschriften an SBB übergeben

AlgorithmWatch CH und die Digitale Gesellschaft haben heute einen offenen Brief an die SBB übergeben. Im Namen von 17'069 Personen und 16 zivilgesellschaftlichen Organisationen und politischen Parteien protestieren sie damit gegen die ursprünglichen Pläne der Bundesbahnen, ein Messsystem zur umfassenden Überwachung der Reisenden in über 50 Bahnhöfen einzusetzen.

Medienmitteilung

Überwachung an SBB-Bahnhöfen: Widerstand der Zivilgesellschaft wirkt

Die SBB haben heute angekündigt, darauf verzichten wollen, Reisende an Bahnhöfen anhand ihrer biometrischen Daten in Kategorien einzuteilen und dies für kommerzielle Zwecke zu nutzen. Wir begrüssen die Ankündigung der SBB, werden aber den Druck aufrechterhalten und den SBB weiterhin genau auf die Finger schauen, damit auch in Zukunft keine Überwachungsmethoden eingesetzt werden, die mit den Grundrechten nicht vereinbar sind.