Recherche Was bedeutet es für die Demokratie, wenn Menschen in Politik und Verwaltung zulassen, dass KI ihre Entscheidungen beeinflusst?AlgorithmWatch hat untersucht, wie sich KI-Tools wie Chatbots auf die Demokratie auswirken könnten.
Umfrage Welche Digitalisierung wollen wir? Die Bevölkerung in der Schweiz hat eine klare AntwortEine repräsentative Umfrage zeigt, dass die Bevölkerung sich vom Staat mehr Engagement im Umgang mit Algorithmen, KI und Big Tech wünscht.
Konzeptionelle und rechtliche Grundlage Transparenz und Nachvollziehbarkeit beim Einsatz von KI in den KantonenAlgorithmWatch CH untersucht in Zusammenarbeit mit dem Forschungszentrum e-PIAF der Universität Basel, wie die Kantone für einen verantwortungsvollen Einsatz von Algorithmen und KI sorgen können. Die Studie erarbeitet konzeptionelle und rechtliche Grundlagen und erfolgt im Auftrag der Konferenz der Kantonsregierungen (KdK).
Stellungnahme KI-Governance ganzheitlich angehenDer Bundesrat hat am Freitag zum Einsatz von KI in der Bundesverwaltung und zu digitaler Souveränität kommuniziert. Es ist entscheidend, dass diese und weitere bestehende Puzzleteile nun in einer ganzheitlichen Strategie zusammengeführt werden.
Tag der Menschenrechte Wie sich der Einsatz von Algorithmen & KI auf unsere Grundrechte auswirktOb Social-Media-Algorithmen, Gesichtserkennung im öffentlichen Raum oder automatisierte Personalauswahl: Unternehmen und staatliche Behörden setzen algorithmische und KI-Systeme in vielen Lebensbereichen immer häufiger ein − zum Teil mit negativen Auswirkungen auf unser Leben und unsere Grundrechte. Ein kurzer Überblick.
Leitfaden KI-Regulierung: Was tut die Schweiz?In der Schweiz wird immer mehr über Regulierungen rund um KI gesprochen. In diesem Leitfaden beleuchten wir die aktuellen politischen Entwicklungen.
Stellungnahme E-ID: Blueprint für einen partizipativen RegulierungsprozessDer beteiligungsorientierte Ansatz hinter der neuen e-ID zeigt: Partizipation sollte bei digitalpolitischen Gesetzgebungsprozessen zum Standard werden. Denn andere Vorhaben wie die KI-Regulierung würden davon auch profitieren.
Empfehlungen Verantwortungsvoller Einsatz von Algorithmen und KI in der öffentlichen VerwaltungÖffentliche Verwaltungen setzen zunehmend algorithmische oder KI-basierte Systeme ein, um Entscheidungen zu unterstützen oder zu treffen. Um dies verantwortungsvoll zu tun, benötigt es klare Rahmenbedingungen. Wie diese aussehen können, fassen wir hier zusammen.
Einfach erklärt Algorithmische Polizeiarbeit: Vorauseilende SchuldvermutungAlgorithmische Polizeiarbeit bedeutet, dass auf der Grundlage von historischen Verbrechensdaten angeblich algorithmisch vorausgesagt wird, wer in der Zukunft welche Verbrechen begehen wird. Wir erklären, warum diese Praxis oft diskriminierend, rechtlich fragwürdig und längst nicht so wirksam ist, wie ihr nachgesagt wird.
Publikation KI verantwortungsvoll einsetzen: Unser Impact Assessment ToolAlgorithmische und KI-basierte Systeme können ethisch relevante Auswirkungen auf Menschen haben. Diejenigen, die sie einsetzen, tragen deshalb eine besondere Verantwortung. Das von AlgorithmWatch entwickelte Tool zur Folgenabschätzung unterstützt und befähigt dabei, dieser Verantwortung gerecht zu werden.
Briefing Wenn Algorithmen & KI (mit)entscheiden: Grundrechte schützenDer Bundesrat will die Konvention zu Künstlicher Intelligenz des Europarates ratifizieren. Wir zeigen in einem neuen Briefing auf, was bei der Regulierung von KI berücksichtigt werden muss, damit Algorithmen und KI nachvollziehbar, verantwortungsvoll und grundrechtskonform eingesetzt werden, wenn sie Entscheidungen über Menschen beeinflussen.
Einfach erklärt Zeige dein Gesicht und KI sagt, wer du bistMit biometrischen Erkennungstechnologien lassen sich Menschen identifizieren und überwachen. Sie sollen für mehr Sicherheit sorgen, gefährden aber die Grundrechte, diskriminieren und können sogar zu Massenüberwachung führen.
Stellungnahme KI in der Bundesverwaltung: Teilstrategie als PuzzleteilDer Bundesrat hat am letzten Freitag seine Teilstrategie für den Einsatz von Künstlicher Intelligenz in der Bundesverwaltung veröffentlicht. Diese Strategie ist ein wichtiges Puzzleteil bei der Gestaltung von Rahmenbedingungen für KI. Sie muss sich jedoch in einem Umsetzungsplan konkretisieren. Erst dann wird ersichtlich, ob und wie KI verantwortungsvoll in der Verwaltung eingesetzt wird. Was die Bundesverwaltung dabei beachten sollte, stellen wir im Folgenden kurz vor.
Einfach erklärt Die algorithmische Verwaltung: Automatisierte Entscheidungssysteme im öffentlichen SektorEine Automatisierung der Verwaltung verspricht Effizienz, benachteiligt Menschen aber nicht selten, wie Beispiele aus ganz Europa beweisen. Wir erklären, warum die öffentliche Verwaltung ein besonders heikles Einsatzfeld für automatisierte Systeme ist und wie sich Risiken frühzeitig erkennen lassen könnten.
Positionspapier Welche KI wollen wir? Rahmenbedingungen für Algorithmen & Künstliche IntelligenzDer Bundesrat analysiert bis Ende 2024 den Regulierungsbedarf rund um KI und wird darauf basierend mögliche Schritte einleiten. Was der Bundesrat und das Parlament aus Sicht der Grundrechte, Demokratie und Nachhaltigkeit dabei beachten sollten, fassen wir hier zusammen.
Offener Brief Keine Digitalisierung ohne Zivilgesellschaft – Digitale Leuchtturmprojekte für das GemeinwohlMehrere Organisationen der digitalen Zivilgesellschaft wehren sich gegen Sparmassnahmen des Bundes. In einem offenen Brief an Bundesrätin Karin Keller-Sutter und die Mitglieder der Finanzkommission des Ständerates fordern sie auf Einsparungen bei Digitalisierungsprojekten zu verzichten.
Stellungnahme Die UN muss sich entscheiden: Will sie der Menschheit helfen oder dem KI-Hype nachgeben?Wie sollte KI international reguliert werden? Mit dieser schwierigen Frage beschäftigt sich aktuell der Beirat für Künstliche Intelligenz des UN-Generalsekretärs in seinem Zwischenbericht. In einem kürzlich durchgeführten Konsultationsprozess haben wir dazu Stellung bezogen und einige bedenkliche Aspekte des Berichts hervorgehoben.
Projekt «HUMAN» HUMAN – der Schritt hin zum verantwortungsvollen Einsatz von KIWenn die Polizei versucht, mittels Algorithmen die Rückfallwahrscheinlichkeit von Straftäter*innen zu berechnen, wenn Arbeitgeber mit KI Bewerbungen vorsortieren oder wenn der KI-Chatbot Medienartikel erstellt: Wer ist dann betroffen von diesen algorithmisch generierten Inhalten, Empfehlungen und Entscheidungen? Wie können Betroffene einbezogen werden, um ihre Rechte und Interessen zu sichern?
Kurz erklärt Wie Algorithmen diskriminieren – und was wir dagegen tun solltenAlgorithmische und KI-basierte Systeme werden sowohl von Behörden als auch von Unternehmen immer häufiger eingesetzt – unter anderem, um Prognosen zu erstellen, Empfehlungen zu geben oder Entscheide zu fällen. Ihr Einsatz kann allerdings zu Diskriminierungen führen. Das heutige Diskriminierungsverbot in der Schweiz reicht nicht aus und muss verbessert werden, um vor algorithmischen Diskriminierungen zu schützen. Dieses Anliegen findet nun auch in der Politik Gehör.
Regulierung von Algorithmen & KI Quo Vadis Bundesrat?Während sich die Verhandlungen zur KI-Verordnung (AI Act) auf EU-Ebene ihrem Ende nähern, steht die Schweiz erst am Anfang, wenn es darum geht, grosse und kleine Gesetzeslücken rund um die Regulierung von Algorithmen & KI zu schliessen. In diesem Artikel stellen wir einige Aspekte dieser politischen Entwicklungen vor.
Medienmitteilung Zivilgesellschaft fordert: Kein Abwarten bei der Regulierung von KI und ADM-SystemenDie Digitale Gesellschaft, Pour Demain, AlgorithmWatch CH, CH++ und opendata.ch fordern, dass es mit der Regulierung von Künstlicher Intelligenz und automatisierten Entscheidungssystemen in der Schweiz voran geht. Gemäss den Organisationen braucht es einen gesetzlichen Rahmen, um Rechtssicherheit und gemeinwohlorientierte Innovation dieser neuen Technologien sicherzustellen.
Stellungnahme zur Vernehmlassung Berner Datenschutzgesetz: Mehr Transparenz, weniger ÜberwachungDie Totalrevision des Berner Datenschutzgesetzes sollte dazu genutzt werden, um Rahmenbedingungen für den Einsatz algorithmischer Systeme zu setzen, die Menschenrechte und Rechtsstaat stärken.
Medienmitteilung smartvote-Umfrage: Grosse Mehrheit für ein Verbot der GesichtserkennungRund 80 Prozent der Personen, die für die eidgenössischen Wahlen kandidieren, sind für ein Verbot der automatischen Gesichtserkennung im öffentlichen Raum. Die Mehrheit in allen Parteien ausser der SVP lehnt diese Form der Massenüberwachung ab. Das Bündnis «Grundrechte schützen – Gesichtserkennung stoppen» begrüsst das eindeutige Resultat der smartvote-Umfrage.
Medienmitteilung Künstliche Intelligenz: In der Schweiz diskriminieren Algorithmen ungestraftIn ihrem neuen Positionspapier kritisiert die Menschenrechtsorganisation AlgorithmWatch CH das veraltete Schweizer Antidiskriminierungsrecht, das deutliche Lücken beim Schutz vor Diskriminierung durch Algorithmen aufweist. Das Papier zeigt umfassend auf, wie Künstliche Intelligenz und weitere algorithmische Systeme zu neuartigen Formen von Diskriminierungen führen können. AlgorithmWatch CH fordert daher eine Ausweitung des Antidiskriminierungsrechts, unter anderem durch ein allgemeines Diskriminierungsverbot für Private sowie kollektive Rechtsmittel.
Positionspapier Diskriminierende Algorithmen: So gelingt der SchutzWenn Algorithmen Prognosen erstellen, Empfehlungen geben oder Entscheidungen fällen, besteht immer das Risiko, dass sie dabei Menschen diskriminieren. Doch wie diskriminieren Algorithmen genau? Und was sollte die Politik dagegen tun? Wir beleuchten den Handlungsbedarf und zeigen Lösungen für einen besseren Schutz vor algorithmischer Diskriminierung.
