Positionen

Medienmitteilung

Künstliche Intelligenz kann diskriminieren: Breite Koalition fordert Bundesrat zum Handeln auf

In einem heute von AlgorithmWatch CH initiierten Appell ruft eine breite Koalition von prominenten Persönlichkeiten und Organisationen den Bundesrat dazu auf, Massnahmen zum Schutz vor Diskriminierung durch Algorithmen und Künstliche Intelligenz zu ergreifen. International haben Fälle solcher Diskriminierungen bereits für Schlagzeilen gesorgt.

Stellungnahme

Die UN muss sich entscheiden: Will sie der Menschheit helfen oder dem KI-Hype nachgeben?

Wie sollte KI international reguliert werden? Mit dieser schwierigen Frage beschäftigt sich aktuell der Beirat für Künstliche Intelligenz des UN-Generalsekretärs in seinem Zwischenbericht. In einem kürzlich durchgeführten Konsultationsprozess haben wir dazu Stellung bezogen und einige bedenkliche Aspekte des Berichts hervorgehoben.

Medienmitteilung

KI-Konvention des Europarats: Kein Freifahrtschein für Unternehmen und Sicherheitsbehörden!

Die KI-Konvention soll das erste rechtsverbindliche internationale Übereinkommen zu KI werden. Ab dem 11. März 2024 finden die abschliessenden Verhandlungen dazu in Strassburg statt. Mit am Verhandlungstisch sitzen die Mitglieder des Europarats (darunter die Schweiz und die EU-Staaten) und Nicht-Mitglieder wie die USA, Japan oder Kanada. AlgorithmWatch, über 90 Organisationen der Zivilgesellschaft und prominente Wissenschaftler*innen fordern die verhandelnden Staaten auf, Unternehmen und nationalen Sicherheitsbehörden beim Einsatz von KI nicht einfach freie Hand zu lassen.

Medienmitteilung

Europa reguliert KI – zugunsten von Big Tech und Sicherheit-Hardlinern

Europa steht kurz davor, zwei wichtige Gesetze zu Künstlichen Intelligenz zu verabschieden: die KI-Verordnung (AI Act) der EU und die KI-Konvention des Europarats. Der Bundesrat hat bereits angekündigt, dass er sich bei seinen KI-Regulierungsvorschlägen an diesen orientieren wird. Beide Regelwerke waren ursprünglich dazu gedacht, die Menschen wirksam vor Big-Tech-Interessen und dem Missbrauch von KI-Technologie durch Regierungen zu schützen. Doch nun könnten die Technologiekonzerne und Sicherheit-Hardliner in den Regierungen ihre Interessen doch noch durchsetzen.

Medienmitteilung

Zivilgesellschaft fordert: Kein Abwarten bei der Regulierung von KI und ADM-Systemen

Die Digitale Gesellschaft, Pour Demain, AlgorithmWatch CH, CH++ und opendata.ch fordern, dass es mit der Regulierung von Künstlicher Intelligenz und automatisierten Entscheidungssystemen in der Schweiz voran geht. Gemäss den Organisationen braucht es einen gesetzlichen Rahmen, um Rechtssicherheit und gemeinwohlorientierte Innovation dieser neuen Technologien sicherzustellen.

Positionspapier

Algorithmen am Arbeitsplatz: Mitarbeitende jetzt einbeziehen

Vermehrt setzen Arbeitgeber algorithmische Systeme am Arbeitsplatz ein. Die Mitarbeitenden können jedoch selten mitbestimmen, wenn es darum geht, wo und wie diese Systeme eingesetzt werden. Der gesetzliche Rahmen reicht aktuell nicht aus, um die Beteiligung der Mitarbeitenden bei der Digitalisierung am Arbeitsplatz sicherzustellen. Wir zeigen auf Basis eines neuen Rechtsgutachtens auf, welche politischen Massnahmen es braucht, um die Rechte der Mitarbeitenden zu stärken.

Stellungnahme zur Vernehmlassung

Berner Datenschutzgesetz: Mehr Transparenz, weniger Überwachung

Die Totalrevision des Berner Datenschutzgesetzes sollte dazu genutzt werden, um Rahmenbedingungen für den Einsatz algorithmischer Systeme zu setzen, die Menschenrechte und Rechtsstaat stärken.

Policy Vorschlag von Expert*innen

Der AI Act und General Purpose AI

Empfehlungen zur Regulierung von General Purpose AI in der KI-Verordnung der EU

Positionspapier

Diskriminierende Algorithmen: So gelingt der Schutz

Wenn Algorithmen Prognosen erstellen, Empfehlungen geben oder Entscheidungen fällen, besteht immer das Risiko, dass sie dabei Menschen diskriminieren. Doch wie diskriminieren Algorithmen genau? Und was sollte die Politik dagegen tun? Wir beleuchten den Handlungsbedarf und zeigen Lösungen für einen besseren Schutz vor algorithmischer Diskriminierung.

Stellungnahme zur Vernehmlassung

Auswertung elektronischer Datenträger verletzt Grundrechte von Asylsuchenden

Um die Identität, die Nationalität oder den Reiseweg von Asylsuchenden festzustellen, soll das Staatssekretariat für Migration (SEM) künftig Daten auf deren Mobiltelefonen und Computern auswerten können. Die Auswertung stellt potenziell einen unverhältnismässigen Eingriff in das Grundrecht auf Schutz der Privatsphäre dar.

Kampf in Strassburg: Schutz vor KI-Folgen im Fokus der Zivilgesellschaft

Während die Verhandlungen über eine Konvention zu Künstlicher Intelligenz (KI) im Europarat in eine entscheidende Phase eintreten, erinnern AlgorithmWatch und zehn weitere zivilgesellschaftlichen Organisationen in einem Statement die verhandelnden Staaten an ihr Mandat: den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit zu gewährleisten. Um diesem Mandat gerecht zu werden und sowohl engen staatlichen Interessen als auch der Lobbyarbeit von Konzernen entgegenzuwirken, muss die Stimme der Zivilgesellschaft gehört werden.

Gemeinsamer Aufruf

Wanted: Spielregeln für KI im Wahlkampf

Mit online verfügbarer «Künstlicher Intelligenz» lassen sich heute in Sekundenschnelle neue Fake-Bilder oder Texte generieren. Diese können auch strategisch für politische Zwecke eingesetzt werden. Gemeinsam mit der Agentur Feinheit ruft AlgorithmWatch CH die Schweizer Parteien auf, im bevorstehenden Wahlkampf solche Inhalte zu kennzeichnen – und sie nicht für negatives Campaigning zu verwenden.

Fedpol will Gesichtserkennung einsetzen – und das durch die Hintertür

Der Bundesrat hat anfangs April zugestimmt, dass das Bundesamt für Polizei (Fedpol) sein System zur automatisierten Identifizierung erneuert. Das neue System bietet jedoch auch neue Möglichkeiten für die Analyse von Bildern, die Grundrechtsfragen aufwerfen.

AlgorithmWatch fordert Massnahmen zu «General Purpose AI»

Dass grosse KI-Sprachmodelle das Ende der Menschheit einläuten, ist reine Spekulation. Schäden richten sie allerdings bereits jetzt an. AlgorithmWatch fordert daher die Politik auf, konkrete Vorkehrungen zu treffen, um eine Eskalation zu verhindern.

Medienmitteilung

Der Bundesrat macht (endlich) den Auftakt für die Regulierung von Facebook, Twitter & Co.

Der Bundesrat hat heute eine Aussprache zur Regulierung von Online-Kommunikationsplattformen geführt. AlgorithmWatch CH begrüsst diesen ersten Schritt und macht gemeinsam mit zivilgesellschaftlichen Partnerorganisationen Vorschläge, wie eine ausgewogene und sinnvolle Regulierung aussehen könnte.

Medienmitteilung

Überwachung an SBB-Bahnhöfen: Widerstand der Zivilgesellschaft wirkt

Die SBB haben heute angekündigt, darauf verzichten wollen, Reisende an Bahnhöfen anhand ihrer biometrischen Daten in Kategorien einzuteilen und dies für kommerzielle Zwecke zu nutzen. Wir begrüssen die Ankündigung der SBB, werden aber den Druck aufrechterhalten und den SBB weiterhin genau auf die Finger schauen, damit auch in Zukunft keine Überwachungsmethoden eingesetzt werden, die mit den Grundrechten nicht vereinbar sind.

Medienmitteilung

Keine Massenüberwachung an Schweizer Bahnhöfen!

Die SBB will die Überwachung der Reisenden in über 50 Bahnhöfen umfassend ausbauen – und das unter anderem zu kommerziellen Zwecken. Die Überwachung erfolgt dabei mutmasslich auch mittels biometrischer Auswertung unserer Gesichter. Dagegen wehren wir uns in einem offenen Brief.

Kanton Aargau will vollautomatisierte Entscheide in der Verwaltung ermöglichen

Der Kanton Aargau hat ein neues Gesetz über die Verwaltungsrechtspflege in die Vernehmlassung geschickt. Dieses sieht vor, vollautomatisierte Entscheide ohne jegliche menschliche Überprüfung in der kantonalen Verwaltung zuzulassen. AlgorithmWatch CH betrachtet die neue Regelung kritisch, begrüsst aber die Einführung einer begleitenden Folgenabschätzung.

Milestone: Der Kanton Zürich plant ein Register für automatisierte Entscheidungssysteme

Wenn die öffentliche Verwaltung algorithmische Systeme einsetzt, muss sie ihrer besonderen Verantwortung gerecht werden. Dies tut sie unter anderem, indem sie transparent macht, welche Systeme sie nutzt. AlgorithmWatch setzt sich seit Langem dafür ein, dass Verwaltungen dies im Rahmen eines öffentlichen Registers tun. Auch im Kanton Zürich haben wir uns dafür stark gemacht – und das hat sich gelohnt: Der Kanton plant die Einführung eines solchen Registers.

Jetzt Plattformen regulieren

Grosse private Online-Plattformen wie Facebook, Twitter und andere Social Media sind nach wie vor eine Blackbox. Inzwischen spielt sich ein Grossteil unseres öffentlichen und privaten Lebens auf ihnen ab, doch wir können nur darüber spekulieren, wie sie uns und unsere Demokratie beeinflussen. Obwohl unsere Grundrechte selbstverständlich auch online gelten, können wir diese kaum wirksam durchsetzen und uns vor Manipulation, Hassrede und Diskriminierung schützen. Darum fordern wir gemeinsam mit anderen zivilgesellschaftlichen Organisationen den Bundesrat auf, eine umfassende Plattformregulierung jetzt anzugehen.

Stellungnahme NGO-Koalition zur Revision des Nachrichtendienstgesetzes NDG

In der Revision des Nachrichtendienstgesetzes NDG sieht der Bundesrat eine massive Ausweitung der Überwachungsbefugnisse durch den Nachrichtendienst vor. In einer gemeinsamen Stellungnahme mit einer Koalition von NGOs wehrt sich AlgorithmWatch Schweiz dagegen und fordert, die Tätigkeiten des Nachrichtendienstes an seinen grundrechtlichen Schranken zu orientieren.

Gesetz zu Flugpassier-Daten: Bedenkliche Datensammlung

Der Bund möchte sämtliche Flugpassagierdaten nutzbar machen zur Verbrechensbekämpfung. Allerdings dürfen Grundrechte nicht einfach zugunsten einer vermeintlichen Sicherheit über Bord geworfen werden, findet AlgorithmWatch Schweiz.

Staatliche Mobilitätsdaten-Infrastruktur: Ja, aber…

Der Bund möchte eine staatliche Mobilitätsdaten-Infrastruktur (MODI) schaffen und hat dafür einen Gesetzesentwurf lanciert. AlgorithmWatch Schweiz begrüsst grundsätzlich die Idee, so eine Infrastruktur zu schaffen – sofern gewisse Standards eingehalten sind.

Skepsis gegenüber St. Galler Gesetz zur Videoüberwachung

Der Kanton St. Gallen hat ein neues Gesetz zur Videoüberwachung in die Vernehmlassung geschickt. AlgorithmWatch hat gegenüber dem neuen Gesetz grosse Vorbehalte und sorgt sich um die Einhaltung der Grundrechte.

Verhandlungen der EU zum AI Act und zum DSA in vollem Gange

Die Verhandlungen zu zentralen digitalpolitischen Gesetzesentwürfen laufen derzeit in Brüssel auf Hochtouren – und diese sollten uns auch aus einer Schweizer Perspektive interessieren. Während der Artificial Intelligence Act (AI Act) noch in EU-Parlament und Rat verhandelt wird, befindet sich der Digital Services Act (DSA) bereits auf der Zielgeraden. AlgorithmWatch arbeitet intensiv zu beiden Vorlagen – und hat klare Empfehlungen, wie sie ergänzt werden müssen, um Grundrechte und Gemeinwohl zu schützen.