#publicsector (25 Ergebnisse)

Gastbeitrag

Automatisierte Strafjustiz auf wissenschaftlich wackeligen Beinen

In der Schweiz werden Algorithmen eingesetzt, um das Rückfallrisiko von Straftäter*innen einzuschätzen. Eine journalistische Recherche im Auftrag von AlgorithmWatch CH zeigt, dass sie an vielen Orten zur Anwendung kommen, auch wenn dies für Betroffene kaum nachvollziehbar ist. Tim Räz, Forscher an der Universität Bern, erläutert in diesem Gastbeitrag exklusiv, wie fragwürdig diese Systeme aus wissenschaftlicher Sicht sind.

Neue Recherche

FOTRES: Simple Mathematik mit komplizierten Folgen

Ein einfacher Algorithmus zur Ermittlung der Rückfallwahrscheinlichkeit von Straftäter*innen mutiert zu einem eigenen Diagnosesystem. Die Fachwelt hält seinen Einsatz für ethisch fragwürdig.

Stellungnahme zur Vernehmlassung

Auswertung elektronischer Datenträger verletzt Grundrechte von Asylsuchenden

Um die Identität, die Nationalität oder den Reiseweg von Asylsuchenden festzustellen, soll das Staatssekretariat für Migration (SEM) künftig Daten auf deren Mobiltelefonen und Computern auswerten können. Die Auswertung stellt potenziell einen unverhältnismässigen Eingriff in das Grundrecht auf Schutz der Privatsphäre dar.

Kampf in Strassburg: Schutz vor KI-Folgen im Fokus der Zivilgesellschaft

Während die Verhandlungen über eine Konvention zu Künstlicher Intelligenz (KI) im Europarat in eine entscheidende Phase eintreten, erinnern AlgorithmWatch und zehn weitere zivilgesellschaftlichen Organisationen in einem Statement die verhandelnden Staaten an ihr Mandat: den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit zu gewährleisten. Um diesem Mandat gerecht zu werden und sowohl engen staatlichen Interessen als auch der Lobbyarbeit von Konzernen entgegenzuwirken, muss die Stimme der Zivilgesellschaft gehört werden.

Für die soziale Durchmischung teilt in Uster ein Computer Klassen ein

Ein Algorithmus für die Schulzuteilung? Was Klassen gerechter machen würde, löst vielerorts dubiose Ängste aus. Auch in der Zürcher Gemeinde Uster, wo sich die zuständige Schuldirektorin entschieden hat, es trotzdem zu tun.

Atlas der Automatisierung

Um Sozialleistungsbetrug aufzudecken, Arbeitsleistung zu messen, die Kreditwürdigkeit einer Person vorherzusagen oder um uns online personalisierte Inhalte anzuzeigen – Algorithmen und sogenannte «Künstliche Intelligenz» prägen heute unseren Alltag. Wo, von wem und wozu diese algorithmischen Systeme eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel.

Medienmitteilung

‹KI› und Algorithmen in der Schweiz: Licht ins Dunkel der Black Box

Algorithmische Systeme und Künstliche Intelligenz (KI) sind derzeit in aller Munde. Während alle über ChatGPT sprechen, geht derweil vergessen, dass die Automatisierung in der Schweiz bereits umfassend ist: Immer mehr Entscheidungen, die Menschen betreffen, werden von Algorithmen beeinflusst. Wo, von wem und wozu diese eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel – und veröffentlicht eine Übersicht von algorithmischen Systemen, die in der Schweiz im Einsatz sind.

SRF Club: «Künstliche Intelligenz so einsetzen, dass sie uns Menschen nützt und nicht schadet»

Anfang Mai hat die Leiterin von AlgorithmWatch CH in der Sendung Club auf SRF zum Thema Künstliche Intelligenz teilgenommen. Sie hat sich dort für einen verantwortungsvollen Umgang mit Algorithmen eingesetzt und die Positionen von AlgorithmWatch klar gemacht: «Die Künstliche Intelligenz soll den Menschen nützen und nicht schaden.»

Stellungnahme

Fedpol will Gesichtserkennung einsetzen – und das durch die Hintertür

Der Bundesrat hat anfangs April zugestimmt, dass das Bundesamt für Polizei (Fedpol) sein System zur automatisierten Identifizierung erneuert. Das neue System bietet jedoch auch neue Möglichkeiten für die Analyse von Bildern, die Grundrechtsfragen aufwerfen.

Biometrische Erkennung im öffentlichen Raum – eine Bedrohung für die Menschenrechte

In Flughäfen, Fussballstadien oder bei der Strafverfolgung werden Gesichtserkennungs- und andere biometrische Erkennungssysteme in der Schweiz immer häufiger eingesetzt. Wenn diese Systeme zu Identifizierungszwecken an öffentlich zugänglichen Orten eingesetzt werden, sind sie mit den Grundrechten und Menschenrechten unvereinbar, insbesondere mit dem Recht auf Privatsphäre, der Meinungs- und Versammlungsfreiheit und dem Diskriminierungsverbot.

Erfolg

Lausanne verbietet Gesichtserkennung im öffentlichen Raum

Der Gemeinderat von Lausanne hat am 28. März 2023 einstimmig parlamentarische Vorstösse angenommen, die Videoüberwachung mit biometrischer Erkennung verbieten sollen. Damit sollte Lausanne die erste Stadt in der Westschweiz werden, die Gesichtserkennung & Co. im öffentlichen Raum verbietet.

Medienmitteilung

Offener Brief mit 17069 Unterschriften an SBB übergeben

AlgorithmWatch CH und die Digitale Gesellschaft haben heute einen offenen Brief an die SBB übergeben. Im Namen von 17'069 Personen und 16 zivilgesellschaftlichen Organisationen und politischen Parteien protestieren sie damit gegen die ursprünglichen Pläne der Bundesbahnen, ein Messsystem zur umfassenden Überwachung der Reisenden in über 50 Bahnhöfen einzusetzen.

Medienmitteilung

Überwachung an SBB-Bahnhöfen: Widerstand der Zivilgesellschaft wirkt

Die SBB haben heute angekündigt, darauf verzichten wollen, Reisende an Bahnhöfen anhand ihrer biometrischen Daten in Kategorien einzuteilen und dies für kommerzielle Zwecke zu nutzen. Wir begrüssen die Ankündigung der SBB, werden aber den Druck aufrechterhalten und den SBB weiterhin genau auf die Finger schauen, damit auch in Zukunft keine Überwachungsmethoden eingesetzt werden, die mit den Grundrechten nicht vereinbar sind.

Interview in der NZZ am Sonntag: «Der Eingriff in das Grundrecht passiert unbemerkt»

Für Angela Müller, die Leiterin von Algorithm Watch in der Schweiz, gehören die Systeme zur Gesichtserkennung im öffentlichen Raum verboten.

Medienmitteilung

Keine Massenüberwachung an Schweizer Bahnhöfen!

Die SBB will die Überwachung der Reisenden in über 50 Bahnhöfen umfassend ausbauen – und das unter anderem zu kommerziellen Zwecken. Die Überwachung erfolgt dabei mutmasslich auch mittels biometrischer Auswertung unserer Gesichter. Dagegen wehren wir uns in einem offenen Brief.

AlgorithmWatch CH in Expertengruppe des Europarates zu KI in der öffentlichen Verwaltung  

Der Ausschuss für rechtliche Zusammenarbeit (European Committee on Legal Cooperation, CDCJ) des Europarates hat eine Arbeitsgruppe zum Thema Verwaltungsrecht und Künstliche Intelligenz (KI) eingerichtet. Angela Müller, Leiterin von AlgorithmWatch CH und Leiterin unseres Policy & Advocacy Teams, wirkt als Expertin in der Gruppe mit.

Kanton Aargau will vollautomatisierte Entscheide in der Verwaltung ermöglichen

Der Kanton Aargau hat ein neues Gesetz über die Verwaltungsrechtspflege in die Vernehmlassung geschickt. Dieses sieht vor, vollautomatisierte Entscheide ohne jegliche menschliche Überprüfung in der kantonalen Verwaltung zuzulassen. AlgorithmWatch CH betrachtet die neue Regelung kritisch, begrüsst aber die Einführung einer begleitenden Folgenabschätzung.

Grosse Erfolge beim Verbot von automatischer Gesichtserkennung im öffentlichen Raum

Bei unserem Einsatz gegen biometrische Massenüberwachung gibt es grosse Erfolge zu verbuchen: In vielen Städten und einigen Kantonen haben wir die politische Diskussion über ein Verbot von automatischer Gesichtserkennung angestossen. Im Kanton Zürich wurde eben eine entsprechende Motion eingereicht. Städte wie St. Gallen oder Zürich gehen sogar mit gutem Beispiel voran und haben bereits so ein Verbot beschlossen.

Milestone: Der Kanton Zürich plant ein Register für automatisierte Entscheidungssysteme

Wenn die öffentliche Verwaltung algorithmische Systeme einsetzt, muss sie ihrer besonderen Verantwortung gerecht werden. Dies tut sie unter anderem, indem sie transparent macht, welche Systeme sie nutzt. AlgorithmWatch setzt sich seit Langem dafür ein, dass Verwaltungen dies im Rahmen eines öffentlichen Registers tun. Auch im Kanton Zürich haben wir uns dafür stark gemacht – und das hat sich gelohnt: Der Kanton plant die Einführung eines solchen Registers.

Stellungnahme NGO-Koalition zur Revision des Nachrichtendienstgesetzes NDG

In der Revision des Nachrichtendienstgesetzes NDG sieht der Bundesrat eine massive Ausweitung der Überwachungsbefugnisse durch den Nachrichtendienst vor. In einer gemeinsamen Stellungnahme mit einer Koalition von NGOs wehrt sich AlgorithmWatch Schweiz dagegen und fordert, die Tätigkeiten des Nachrichtendienstes an seinen grundrechtlichen Schranken zu orientieren.

Gesetz zu Flugpassier-Daten: Bedenkliche Datensammlung

Der Bund möchte sämtliche Flugpassagierdaten nutzbar machen zur Verbrechensbekämpfung. Allerdings dürfen Grundrechte nicht einfach zugunsten einer vermeintlichen Sicherheit über Bord geworfen werden, findet AlgorithmWatch Schweiz.

Drei spannende Veröffentlichungen zu aktuellen Themen

In den letzten Wochen hat sich einiges getan. Unsere Kolleg*innen von AlgorithmWatch.org haben gleich drei interessante Publikationen veröffentlicht, die auch für uns höchst relevant sind. Es geht nämlich um nachhaltige KI, um diskriminierende Algorithmen und um die Macht grosser Online-Plattformen.

Algorithm TV

Erhalte ich einen Kredit? Wie hoch ist meine Versicherungsprämie? Habe ich Anspruch auf Sozialhilfe? Viele wichtige Entscheidungen werden heute auf der Grundlage unserer Daten mithilfe von Algorithmen entschieden. Diese Systeme sind oft hocheffizient – doch sind sie eigentlich fair? Vier Filme erzählen von (un)fairen Algorithmen und regen zum Nachdenken an.

Kurz erklärt

Europarat schafft Rahmenbedingungen für Künstliche Intelligenz

Nebst der EU reguliert auch der Europarat in Strassburg Künstliche Intelligenz – mit der KI-Konvention, dem ersten internationalen Vertrag zu KI. In diesem Leitfaden erklären wir, was dahinter steckt, warum das für uns alle wichtig ist und was die nächsten Schritte sind.

Medienmitteilung

Petitionsübergabe: Über 10’000 Menschen gegen automatische Gesichtserkennung

Diese Woche hat das Bündnis «Gesichtserkennung stoppen» die Petition gegen automatische Gesichtserkennung eingereicht.