#publicsector (25 Ergebnisse)

Einfach erklärt

Zeige dein Gesicht und KI sagt, wer du bist

Mit biometrischen Erkennungstechnologien lassen sich Menschen identifizieren und überwachen. Sie sollen für mehr Sicherheit sorgen, gefährden aber die Grundrechte, diskriminieren und können sogar zu Massenüberwachung führen.

Stellungnahme

KI in der Bundesverwaltung: Teilstrategie als Puzzleteil

Der Bundesrat hat am letzten Freitag seine Teilstrategie für den Einsatz von Künstlicher Intelligenz in der Bundesverwaltung veröffentlicht. Diese Strategie ist ein wichtiges Puzzleteil bei der Gestaltung von Rahmenbedingungen für KI. Sie muss sich jedoch in einem Umsetzungsplan konkretisieren. Erst dann wird ersichtlich, ob und wie KI verantwortungsvoll in der Verwaltung eingesetzt wird. Was die Bundesverwaltung dabei beachten sollte, stellen wir im Folgenden kurz vor.

Einfach erklärt

Die algorithmische Verwaltung: Automatisierte Entscheidungssysteme im öffentlichen Sektor

Eine Automatisierung der Verwaltung verspricht Effizienz, benachteiligt Menschen aber nicht selten, wie Beispiele aus ganz Europa beweisen. Wir erklären, warum die öffentliche Verwaltung ein besonders heikles Einsatzfeld für automatisierte Systeme ist und wie sich Risiken frühzeitig erkennen lassen könnten.

Positionspapier

Welche KI wollen wir? Rahmenbedingungen für Algorithmen & Künstliche Intelligenz

Der Bundesrat analysiert bis Ende 2024 den Regulierungsbedarf rund um KI und wird darauf basierend mögliche Schritte einleiten. Was der Bundesrat und das Parlament aus Sicht der Grundrechte, Demokratie und Nachhaltigkeit dabei beachten sollten, fassen wir hier zusammen.

Offener Brief

Keine Digitalisierung ohne Zivilgesellschaft – Digitale Leuchtturmprojekte für das Gemeinwohl

Mehrere Organisationen der digitalen Zivilgesellschaft wehren sich gegen Sparmassnahmen des Bundes. In einem offenen Brief an Bundesrätin Karin Keller-Sutter und die Mitglieder der Finanzkommission des Ständerates fordern sie auf Einsparungen bei Digitalisierungsprojekten zu verzichten.

Stellungnahme

Die UN muss sich entscheiden: Will sie der Menschheit helfen oder dem KI-Hype nachgeben?

Wie sollte KI international reguliert werden? Mit dieser schwierigen Frage beschäftigt sich aktuell der Beirat für Künstliche Intelligenz des UN-Generalsekretärs in seinem Zwischenbericht. In einem kürzlich durchgeführten Konsultationsprozess haben wir dazu Stellung bezogen und einige bedenkliche Aspekte des Berichts hervorgehoben.

Projekt «HUMAN»

Menschen müssen dafür sorgen, dass KI den Menschen dient

Wenn die Polizei versucht, mittels Algorithmen die Rückfallwahrscheinlichkeit von Straftäter*innen zu berechnen, wenn Arbeitgeber mit KI Bewerbungen vorsortieren oder wenn der KI-Chatbot Medienartikel erstellt: wer ist dann betroffen von diesen algorithmisch generierten Inhalten, Empfehlungen und Entscheidungen? Wie können Betroffene einbezogen werden, um ihre Rechte und Interessen zu sichern?

Kurz erklärt

Wie Algorithmen diskriminieren – und was wir dagegen tun sollten

Algorithmische und KI-basierte Systeme werden sowohl von Behörden als auch von Unternehmen immer häufiger eingesetzt – unter anderem, um Prognosen zu erstellen, Empfehlungen zu geben oder Entscheide zu fällen. Ihr Einsatz kann allerdings zu Diskriminierungen führen. Das heutige Diskriminierungsverbot in der Schweiz reicht nicht aus und muss verbessert werden, um vor algorithmischen Diskriminierungen zu schützen. Dieses Anliegen findet nun auch in der Politik Gehör.

Regulierung von Algorithmen & KI

Quo Vadis Bundesrat?

Während sich die Verhandlungen zur KI-Verordnung (AI Act) auf EU-Ebene ihrem Ende nähern, steht die Schweiz erst am Anfang, wenn es darum geht, grosse und kleine Gesetzeslücken rund um die Regulierung von Algorithmen & KI zu schliessen. In diesem Artikel stellen wir einige Aspekte dieser politischen Entwicklungen vor.

Medienmitteilung

Zivilgesellschaft fordert: Kein Abwarten bei der Regulierung von KI und ADM-Systemen

Die Digitale Gesellschaft, Pour Demain, AlgorithmWatch CH, CH++ und opendata.ch fordern, dass es mit der Regulierung von Künstlicher Intelligenz und automatisierten Entscheidungssystemen in der Schweiz voran geht. Gemäss den Organisationen braucht es einen gesetzlichen Rahmen, um Rechtssicherheit und gemeinwohlorientierte Innovation dieser neuen Technologien sicherzustellen.

Stellungnahme zur Vernehmlassung

Berner Datenschutzgesetz: Mehr Transparenz, weniger Überwachung

Die Totalrevision des Berner Datenschutzgesetzes sollte dazu genutzt werden, um Rahmenbedingungen für den Einsatz algorithmischer Systeme zu setzen, die Menschenrechte und Rechtsstaat stärken.

Medienmitteilung

smartvote-Umfrage: Grosse Mehrheit für ein Verbot der Gesichtserkennung

Rund 80 Prozent der Personen, die für die eidgenössischen Wahlen kandidieren, sind für ein Verbot der automatischen Gesichtserkennung im öffentlichen Raum. Die Mehrheit in allen Parteien ausser der SVP lehnt diese Form der Massenüberwachung ab. Das Bündnis «Grundrechte schützen – Gesichtserkennung stoppen» begrüsst das eindeutige Resultat der smartvote-Umfrage.

Medienmitteilung

Künstliche Intelligenz: In der Schweiz diskriminieren Algorithmen ungestraft

In ihrem neuen Positionspapier kritisiert die Menschenrechtsorganisation AlgorithmWatch CH das veraltete Schweizer Antidiskriminierungsrecht, das deutliche Lücken beim Schutz vor Diskriminierung durch Algorithmen aufweist. Das Papier zeigt umfassend auf, wie Künstliche Intelligenz und weitere algorithmische Systeme zu neuartigen Formen von Diskriminierungen führen können. AlgorithmWatch CH fordert daher eine Ausweitung des Antidiskriminierungsrechts, unter anderem durch ein allgemeines Diskriminierungsverbot für Private sowie kollektive Rechtsmittel.

Positionspapier

Diskriminierende Algorithmen: So gelingt der Schutz

Wenn Algorithmen Prognosen erstellen, Empfehlungen geben oder Entscheidungen fällen, besteht immer das Risiko, dass sie dabei Menschen diskriminieren. Doch wie diskriminieren Algorithmen genau? Und was sollte die Politik dagegen tun? Wir beleuchten den Handlungsbedarf und zeigen Lösungen für einen besseren Schutz vor algorithmischer Diskriminierung.

Festrede

Datenschutz: gestern, heute und in Zukunft

Bern, 14.09.2023 – Am Jubiläumsevent zu 30 Jahre Schweizer Datenschutzgesetz, zu dem der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) einlud, hielt Angela Müller, Leiterin AlgorithmWatch CH, die Festrede – es gilt das gesprochene Wort.

Medienmitteilung

Mehrere Städte und Kantone wollen Gesichtserkennung verbieten

Automatische Gesichtserkennung im öffentlich zugänglichen Raum soll verboten werden. Das verlangen parlamentarische Vorstösse in mehreren Städten und Kantonen. Die Kampagne von AlgorithmWatch CH, Amnesty International und Digitale Gesellschaft für ein Verbot der biometrischen Massenüberwachung zeigt damit konkrete Erfolge.

Aufgedeckt

Algorithmischer Flickenteppich in Schweizer Verwaltungen

Welche algorithmischen Systeme nutzen die Kantone, um Entscheidungen über Menschen zu beeinflussen? Diese Frage haben wir den 26 kantonalen Staatskanzleien gestellt und deren Antworten ausgewertet. Spoiler: Viele Kantone sind nicht in der Lage, vollständige Informationen über die von ihnen genutzten Systeme zur Verfügung zu stellen.

Gastbeitrag

Automatisierte Strafjustiz auf wissenschaftlich wackeligen Beinen

In der Schweiz werden Algorithmen eingesetzt, um das Rückfallrisiko von Straftäter*innen einzuschätzen. Eine journalistische Recherche im Auftrag von AlgorithmWatch CH zeigt, dass sie an vielen Orten zur Anwendung kommen, auch wenn dies für Betroffene kaum nachvollziehbar ist. Tim Räz, Forscher an der Universität Bern, erläutert in diesem Gastbeitrag exklusiv, wie fragwürdig diese Systeme aus wissenschaftlicher Sicht sind.

Neue Recherche

FOTRES: Simple Mathematik mit komplizierten Folgen

Ein einfacher Algorithmus zur Ermittlung der Rückfallwahrscheinlichkeit von Straftäter*innen mutiert zu einem eigenen Diagnosesystem. Die Fachwelt hält seinen Einsatz für ethisch fragwürdig.

Stellungnahme zur Vernehmlassung

Auswertung elektronischer Datenträger verletzt Grundrechte von Asylsuchenden

Um die Identität, die Nationalität oder den Reiseweg von Asylsuchenden festzustellen, soll das Staatssekretariat für Migration (SEM) künftig Daten auf deren Mobiltelefonen und Computern auswerten können. Die Auswertung stellt potenziell einen unverhältnismässigen Eingriff in das Grundrecht auf Schutz der Privatsphäre dar.

Kampf in Strassburg: Schutz vor KI-Folgen im Fokus der Zivilgesellschaft

Während die Verhandlungen über eine Konvention zu Künstlicher Intelligenz (KI) im Europarat in eine entscheidende Phase eintreten, erinnern AlgorithmWatch und zehn weitere zivilgesellschaftlichen Organisationen in einem Statement die verhandelnden Staaten an ihr Mandat: den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit zu gewährleisten. Um diesem Mandat gerecht zu werden und sowohl engen staatlichen Interessen als auch der Lobbyarbeit von Konzernen entgegenzuwirken, muss die Stimme der Zivilgesellschaft gehört werden.

Für die soziale Durchmischung teilt in Uster ein Computer Klassen ein

Ein Algorithmus für die Schulzuteilung? Was Klassen gerechter machen würde, löst vielerorts dubiose Ängste aus. Auch in der Zürcher Gemeinde Uster, wo sich die zuständige Schuldirektorin entschieden hat, es trotzdem zu tun.

Atlas der Automatisierung

Um Sozialleistungsbetrug aufzudecken, Arbeitsleistung zu messen, die Kreditwürdigkeit einer Person vorherzusagen oder um uns online personalisierte Inhalte anzuzeigen – Algorithmen und sogenannte «Künstliche Intelligenz» prägen heute unseren Alltag. Wo, von wem und wozu diese algorithmischen Systeme eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel.

Medienmitteilung

‹KI› und Algorithmen in der Schweiz: Licht ins Dunkel der Black Box

Algorithmische Systeme und Künstliche Intelligenz (KI) sind derzeit in aller Munde. Während alle über ChatGPT sprechen, geht derweil vergessen, dass die Automatisierung in der Schweiz bereits umfassend ist: Immer mehr Entscheidungen, die Menschen betreffen, werden von Algorithmen beeinflusst. Wo, von wem und wozu diese eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel – und veröffentlicht eine Übersicht von algorithmischen Systemen, die in der Schweiz im Einsatz sind.

SRF Club: «Künstliche Intelligenz so einsetzen, dass sie uns Menschen nützt und nicht schadet»

Anfang Mai hat die Leiterin von AlgorithmWatch CH in der Sendung Club auf SRF zum Thema Künstliche Intelligenz teilgenommen. Sie hat sich dort für einen verantwortungsvollen Umgang mit Algorithmen eingesetzt und die Positionen von AlgorithmWatch klar gemacht: «Die Künstliche Intelligenz soll den Menschen nützen und nicht schaden.»