#publicsphere (61 Ergebnisse)

Super-Wahljahr 2024

10 Fragen zu KI und Wahlen

2024 ist ein Super-Wahljahr. Wähler*innen auf der ganzen Welt denken darüber nach, wem sie ihre Stimme geben, machen sich aber auch Sorgen über KI: Sind Chatbots und «Deepfake»-Videos eine Gefahr für die Demokratie? Können wir Online-Inhalten noch trauen? Wir erklären, warum der Hype um KI und Wahlen teilweise übertrieben ist und auf welche Risiken wir stattdessen reagieren sollten.

Stellungnahme

Die UN muss sich entscheiden: Will sie der Menschheit helfen oder dem KI-Hype nachgeben?

Wie sollte KI international reguliert werden? Mit dieser schwierigen Frage beschäftigt sich aktuell der Beirat für Künstliche Intelligenz des UN-Generalsekretärs in seinem Zwischenbericht. In einem kürzlich durchgeführten Konsultationsprozess haben wir dazu Stellung bezogen und einige bedenkliche Aspekte des Berichts hervorgehoben.

Social Media

AlgorithmWatch CH stellt Aktivitäten auf X, ehemals Twitter, ein

Die Entscheidung ist die Folge des anhaltenden und raschen Zerfalls der Diskussionskultur auf der Social-Media-Plattform, seit sie vor mehr als einem Jahr von ihrem neuen Eigentümer übernommen wurde.

Medienmitteilung

Studie: KI-basierte Microsoft-Suche vor Schweizer Wahlen – gefährlich unzuverlässig

Wer sich vor Wahlen, wie beispielsweise den Bundesratswahlen, bei Bing Chat informiert, muss mit irreführenden, falschen und einseitigen Antworten rechnen. Die Microsoft-Suchmaschine mit integrierter Chatbot-Funktion erfindet Skandale und denkt sich bisweilen die Zusammensetzung des Bundesrates neu aus. Das zeigt eine Studie von AlgorithmWatch und AI Forensics zu den Wahlen in der Schweiz, Bayern und Hessen im Oktober 2023, deren Schlussbericht nun vorliegt. Microsoft scheint keine Lösung für das Problem zu haben.

Schlussbericht: Untersuchung zu Microsoft Bing Chat

KI-Chatbot liefert falsche Antworten auf Fragen zu demokratischen Wahlen

Bing Chat, der in Microsofts Suchmaschine Bing integrierte KI-Chatbot, erfindet Skandale, denkt sich Umfragewerte aus und gibt den Wahltermin falsch an. Microsoft scheint nicht in der Lage oder nicht willens zu sein, das Problem zu beheben. Das zeigt eine Studie von AlgorithmWatch und AI Forensics, deren Schlussbericht nun vorliegt. Darin haben wir das Antwortverhalten des Chatbots zu den Wahlen in der Schweiz, Bayern und Hessen im Oktober 2023 untersucht.

Regulierung von Algorithmen & KI

Quo Vadis Bundesrat?

Während sich die Verhandlungen zur KI-Verordnung (AI Act) auf EU-Ebene ihrem Ende nähern, steht die Schweiz erst am Anfang, wenn es darum geht, grosse und kleine Gesetzeslücken rund um die Regulierung von Algorithmen & KI zu schliessen. In diesem Artikel stellen wir einige Aspekte dieser politischen Entwicklungen vor.

Medienmitteilung

Zivilgesellschaft fordert: Kein Abwarten bei der Regulierung von KI und ADM-Systemen

Die Digitale Gesellschaft, Pour Demain, AlgorithmWatch CH, CH++ und opendata.ch fordern, dass es mit der Regulierung von Künstlicher Intelligenz und automatisierten Entscheidungssystemen in der Schweiz voran geht. Gemäss den Organisationen braucht es einen gesetzlichen Rahmen, um Rechtssicherheit und gemeinwohlorientierte Innovation dieser neuen Technologien sicherzustellen.

Zwischenergebnisse: Untersuchung zu Microsoft Bing Chat

Grosse KI-Sprachmodelle im Kontext von Wahlen

Wie zuverlässig beantwortet der Chatbot der Microsoft-Suchmaschine Bing Fragen zu den anstehenden Wahlen in der Schweiz, Bayern und Hessen? Unsere Forschung belegt: Das dahinter stehende grosse Sprachmodell GPT-4 erzeugt und verbreitet ausgedachte und irreführende Informationen. Das könnte zur Gefahr für die Demokratie werden.

Stellungnahme zur Vernehmlassung

Berner Datenschutzgesetz: Mehr Transparenz, weniger Überwachung

Die Totalrevision des Berner Datenschutzgesetzes sollte dazu genutzt werden, um Rahmenbedingungen für den Einsatz algorithmischer Systeme zu setzen, die Menschenrechte und Rechtsstaat stärken.

Medienmitteilung

smartvote-Umfrage: Grosse Mehrheit für ein Verbot der Gesichtserkennung

Rund 80 Prozent der Personen, die für die eidgenössischen Wahlen kandidieren, sind für ein Verbot der automatischen Gesichtserkennung im öffentlichen Raum. Die Mehrheit in allen Parteien ausser der SVP lehnt diese Form der Massenüberwachung ab. Das Bündnis «Grundrechte schützen – Gesichtserkennung stoppen» begrüsst das eindeutige Resultat der smartvote-Umfrage.

Medienmitteilung

Künstliche Intelligenz: In der Schweiz diskriminieren Algorithmen ungestraft

In ihrem neuen Positionspapier kritisiert die Menschenrechtsorganisation AlgorithmWatch CH das veraltete Schweizer Antidiskriminierungsrecht, das deutliche Lücken beim Schutz vor Diskriminierung durch Algorithmen aufweist. Das Papier zeigt umfassend auf, wie Künstliche Intelligenz und weitere algorithmische Systeme zu neuartigen Formen von Diskriminierungen führen können. AlgorithmWatch CH fordert daher eine Ausweitung des Antidiskriminierungsrechts, unter anderem durch ein allgemeines Diskriminierungsverbot für Private sowie kollektive Rechtsmittel.

Positionspapier

Diskriminierende Algorithmen: So gelingt der Schutz

Wenn Algorithmen Prognosen erstellen, Empfehlungen geben oder Entscheidungen fällen, besteht immer das Risiko, dass sie dabei Menschen diskriminieren. Doch wie diskriminieren Algorithmen genau? Und was sollte die Politik dagegen tun? Wir beleuchten den Handlungsbedarf und zeigen Lösungen für einen besseren Schutz vor algorithmischer Diskriminierung.

Festrede

Datenschutz: gestern, heute und in Zukunft

Bern, 14.09.2023 – Am Jubiläumsevent zu 30 Jahre Schweizer Datenschutzgesetz, zu dem der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) einlud, hielt Angela Müller, Leiterin AlgorithmWatch CH, die Festrede – es gilt das gesprochene Wort.

Medienmitteilung

Mehrere Städte und Kantone wollen Gesichtserkennung verbieten

Automatische Gesichtserkennung im öffentlich zugänglichen Raum soll verboten werden. Das verlangen parlamentarische Vorstösse in mehreren Städten und Kantonen. Die Kampagne von AlgorithmWatch CH, Amnesty International und Digitale Gesellschaft für ein Verbot der biometrischen Massenüberwachung zeigt damit konkrete Erfolge.

Kampf in Strassburg: Schutz vor KI-Folgen im Fokus der Zivilgesellschaft

Während die Verhandlungen über eine Konvention zu Künstlicher Intelligenz (KI) im Europarat in eine entscheidende Phase eintreten, erinnern AlgorithmWatch und zehn weitere zivilgesellschaftlichen Organisationen in einem Statement die verhandelnden Staaten an ihr Mandat: den Schutz von Menschenrechten, Demokratie und Rechtsstaatlichkeit zu gewährleisten. Um diesem Mandat gerecht zu werden und sowohl engen staatlichen Interessen als auch der Lobbyarbeit von Konzernen entgegenzuwirken, muss die Stimme der Zivilgesellschaft gehört werden.

Medienmitteilung

‹KI› und Algorithmen in der Schweiz: Licht ins Dunkel der Black Box

Algorithmische Systeme und Künstliche Intelligenz (KI) sind derzeit in aller Munde. Während alle über ChatGPT sprechen, geht derweil vergessen, dass die Automatisierung in der Schweiz bereits umfassend ist: Immer mehr Entscheidungen, die Menschen betreffen, werden von Algorithmen beeinflusst. Wo, von wem und wozu diese eingesetzt werden, ist jedoch weitgehend eine Black Box. Mit dem Atlas der Automatisierung bringt AlgorithmWatch CH nun Licht ins Dunkel – und veröffentlicht eine Übersicht von algorithmischen Systemen, die in der Schweiz im Einsatz sind.

Gemeinsamer Aufruf

Wanted: Spielregeln für KI im Wahlkampf

Mit online verfügbarer «Künstlicher Intelligenz» lassen sich heute in Sekundenschnelle neue Fake-Bilder oder Texte generieren. Diese können auch strategisch für politische Zwecke eingesetzt werden. Gemeinsam mit der Agentur Feinheit ruft AlgorithmWatch CH die Schweizer Parteien auf, im bevorstehenden Wahlkampf solche Inhalte zu kennzeichnen – und sie nicht für negatives Campaigning zu verwenden.

SRF Club: «Künstliche Intelligenz so einsetzen, dass sie uns Menschen nützt und nicht schadet»

Anfang Mai hat die Leiterin von AlgorithmWatch CH in der Sendung Club auf SRF zum Thema Künstliche Intelligenz teilgenommen. Sie hat sich dort für einen verantwortungsvollen Umgang mit Algorithmen eingesetzt und die Positionen von AlgorithmWatch klar gemacht: «Die Künstliche Intelligenz soll den Menschen nützen und nicht schaden.»

Fedpol will Gesichtserkennung einsetzen – und das durch die Hintertür

Der Bundesrat hat anfangs April zugestimmt, dass das Bundesamt für Polizei (Fedpol) sein System zur automatisierten Identifizierung erneuert. Das neue System bietet jedoch auch neue Möglichkeiten für die Analyse von Bildern, die Grundrechtsfragen aufwerfen.

Biometrische Erkennung im öffentlichen Raum – eine Bedrohung für die Menschenrechte

In Flughäfen, Fussballstadien oder bei der Strafverfolgung werden Gesichtserkennungs- und andere biometrische Erkennungssysteme in der Schweiz immer häufiger eingesetzt. Wenn diese Systeme zu Identifizierungszwecken an öffentlich zugänglichen Orten eingesetzt werden, sind sie mit den Grundrechten und Menschenrechten unvereinbar, insbesondere mit dem Recht auf Privatsphäre, der Meinungs- und Versammlungsfreiheit und dem Diskriminierungsverbot.

Medienmitteilung

Offener Brief mit 17069 Unterschriften an SBB übergeben

AlgorithmWatch CH und die Digitale Gesellschaft haben heute einen offenen Brief an die SBB übergeben. Im Namen von 17'069 Personen und 16 zivilgesellschaftlichen Organisationen und politischen Parteien protestieren sie damit gegen die ursprünglichen Pläne der Bundesbahnen, ein Messsystem zur umfassenden Überwachung der Reisenden in über 50 Bahnhöfen einzusetzen.

Medienmitteilung

Überwachung an SBB-Bahnhöfen: Widerstand der Zivilgesellschaft wirkt

Die SBB haben heute angekündigt, darauf verzichten wollen, Reisende an Bahnhöfen anhand ihrer biometrischen Daten in Kategorien einzuteilen und dies für kommerzielle Zwecke zu nutzen. Wir begrüssen die Ankündigung der SBB, werden aber den Druck aufrechterhalten und den SBB weiterhin genau auf die Finger schauen, damit auch in Zukunft keine Überwachungsmethoden eingesetzt werden, die mit den Grundrechten nicht vereinbar sind.

Interview in der NZZ am Sonntag: «Der Eingriff in das Grundrecht passiert unbemerkt»

Für Angela Müller, die Leiterin von Algorithm Watch in der Schweiz, gehören die Systeme zur Gesichtserkennung im öffentlichen Raum verboten.

Medienmitteilung

Keine Massenüberwachung an Schweizer Bahnhöfen!

Die SBB will die Überwachung der Reisenden in über 50 Bahnhöfen umfassend ausbauen – und das unter anderem zu kommerziellen Zwecken. Die Überwachung erfolgt dabei mutmasslich auch mittels biometrischer Auswertung unserer Gesichter. Dagegen wehren wir uns in einem offenen Brief.

Was weiss TikTok alles über dich? Finde es heraus!

Unternehmen wie Facebook, Instagram, Google und TikTok wissen oft von den schädlichen Auswirkungen ihrer algorithmischen Systeme und bemühen sich, unabhängige Forschung dazu zu verhindern. Datenspenden wie DataSkop sind bislang eine der wenigen Möglichkeiten, um undurchsichtige Algorithmen zu untersuchen.