Publikationen

Publikation

KI verantwortungsvoll einsetzen: Unser Impact Assessment Tool

Algorithmische und KI-basierte Systeme können ethisch relevante Auswirkungen auf Menschen haben. Diejenigen, die sie einsetzen, tragen deshalb eine besondere Verantwortung. Das von AlgorithmWatch entwickelte Tool zur Folgenabschätzung unterstützt und befähigt dabei, dieser Verantwortung gerecht zu werden.

Themendossier

KI und Nachhaltigkeit, wie geht das?

Tech-Konzerne wollen Künstliche Intelligenz (KI) als Lösung für die Klimakrise verkaufen und bringen immer grössere KI-Modelle auf den Markt. Derweil hat der Energieverbrauch dieser Modelle ungeahnte Ausmasse erreicht. Wie passt KI mit Nachhaltigkeit und dem Respekt vor planetaren Grenzen zusammen? Wir geben einen Überblick über das Thema.

Einfach erklärt

Die Umweltkosten der KI-Lieferkette

Die KI-Lieferkette vom Rohstoff-Abbau bis zur Entsorgung.

KI & Behinderung

KI und Algorithmen: Wie können Menschen mit Behinderungen von diesen Technologien profitieren?

KI-Anwendungen können den Alltag von Menschen mit Behinderungen erleichtern, andere jedoch ihre Grundrechte tangieren. Ein Überblick über die Chancen und Risiken Künstlicher Intelligenz für Menschen mit Behinderungen.

Einfach erklärt

Zeige dein Gesicht und KI sagt, wer du bist

Mit biometrischen Erkennungstechnologien lassen sich Menschen identifizieren und überwachen. Sie sollen für mehr Sicherheit sorgen, gefährden aber die Grundrechte, diskriminieren und können sogar zu Massenüberwachung führen.

Einfach erklärt

KI und Rechenzentren: Woher die ganze Energie nehmen?

Hilft Künstliche Intelligenz dabei, die Klimakrise in den Griff zu bekommen, oder verschlimmert sie sie nur? So oder so werden durch die Flut von KI-Anwendungen immer mehr Rechenzentren gebraucht, für die derzeit Energieressourcen fehlen.

Meinungsbeitrag im Tagesanzeiger

KI – Dreckschleuder oder Weltretterin?

Es ist 2025 und die Auswirkungen des Klimawandels springen uns wöchentlich von den Titelseiten entgegen: Städte brennen, Wüsten breiten sich aus, Gletscher schmelzen. Geht es nach den Hochglanzwebsites der Tech-Konzerne, scheint nun aber die Lösung gefunden: Künstliche Intelligenz. Doch nicht nur beim internationalen «AI Action Summit» nächste Woche in Paris wird auch ein anderer Blick auf die Technologie geworfen.

Einfach erklärt

Der Algorithmus als Boss: Wie KI die Arbeitswelt verändert

Automatisierte Entscheidungssysteme steuern unsere Arbeit, ob in Unternehmen oder über Plattformen, die Aufträge vermitteln. Die Unternehmen können damit ihre Effizienz steigern, aber diese Systeme können auch die Überwachung von Mitarbeiter*innen unangemessen ausweiten. Hinter ihnen versteckt sich ausserdem oft die Ausbeutung von Mensch und Umwelt.

Einfach erklärt

Die algorithmische Verwaltung: Automatisierte Entscheidungssysteme im öffentlichen Sektor

Eine Automatisierung der Verwaltung verspricht Effizienz, benachteiligt Menschen aber nicht selten, wie Beispiele aus ganz Europa beweisen. Wir erklären, warum die öffentliche Verwaltung ein besonders heikles Einsatzfeld für automatisierte Systeme ist und wie sich Risiken frühzeitig erkennen lassen könnten.

Einfach erklärt

Nachhaltige KI: Ein Widerspruch in sich?

Ist KI ein Mittel, um die Klimakrise zu bewältigen, oder eine schlimmere Umweltsünde als das Fliegen? Wir erklären, wie viel Energie KI-Systeme wirklich fressen, warum wir bessere Messungen brauchen und wie KI nachhaltiger werden kann.

Meinungsbeitrag in der NZZ am Sonntag

Welche KI wollen wir? Der Bundesrat muss sich jetzt entscheiden

Entweder Regulierung oder Innovation? Schwarz-Weiss-Malen hilft nicht weiter im Umgang mit künstlicher Intelligenz. Es gibt bessere Rezepte für eine gesunde Entwicklung, schreibt Angela Müller.

Einfach erklärt

Wie und warum Algorithmen diskriminieren

Automatisierte Entscheidungssysteme können diskriminieren. Wir erklären, welche Ursachen das hat, was in solchen Fällen passieren kann und warum die bestehenden Gesetze nicht ausreichend vor algorithmischer Diskriminierung schützen.

Themendossier

Was ist algorithmische Diskriminierung?

Diskriminierung durch Algorithmen und Künstliche Intelligenz (KI): Wir geben einen Überblick über das Thema.

Serie mit Fallbeispielen

Diskriminierung 2.0: Wie Algorithmen Menschen diskriminieren

Anhand von konkreten Fallbeispielen beleuchten wir unterschiedlichste Fälle von algorithmischer Diskriminierung.

Qualifizierungsmassnahmen

Was Gewerkschaften über Algorithmen am Arbeitsplatz wissen müssen

Unternehmen in der Schweiz setzen vermehrt algorithmische Systeme am Arbeitsplatz ein. Die Mitwirkung der Arbeitnehmenden ist ein wichtiger Faktor, damit sich dieser technologische Wandel positiv auf die Arbeitnehmenden auswirken kann. Die vorliegende Publikation fasst zusammen, was Gewerkschaften über algorithmische Systeme am Arbeitsplatz wissen müssen und wie sie die Mitwirkung der Arbeitnehmenden ermöglichen können.

Schlussbericht: Untersuchung zu Microsoft Bing Chat

KI-Chatbot liefert falsche Antworten auf Fragen zu demokratischen Wahlen

Bing Chat, der in Microsofts Suchmaschine Bing integrierte KI-Chatbot, erfindet Skandale, denkt sich Umfragewerte aus und gibt den Wahltermin falsch an. Microsoft scheint nicht in der Lage oder nicht willens zu sein, das Problem zu beheben. Das zeigt eine Studie von AlgorithmWatch und AI Forensics, deren Schlussbericht nun vorliegt. Darin haben wir das Antwortverhalten des Chatbots zu den Wahlen in der Schweiz, Bayern und Hessen im Oktober 2023 untersucht.

Rechtsgutachten

Wie Arbeitnehmende den Einsatz von Algorithmen an ihrem Arbeitsplatz beeinflussen können – eine rechtliche Perspektive

Vermehrt kommen an Arbeitsplätzen in der Schweiz algorithmische Systeme zum Einsatz. Unternehmen müssten gemäss geltendem Recht ihre Angestellten in gewissen Situationen einbeziehen. Dies passiert jedoch oft nicht. Das vorliegende Rechtsgutachten zeigt auf, welche Rechte die Arbeitnehmenden und welche Pflichten die Arbeitgeber haben, wenn es um die Beteiligung der Mitarbeitenden geht, welche Lücken es im rechtlichen Rahmen gibt und wie diese geschlossen werden könnten.

Zwischenergebnisse: Untersuchung zu Microsoft Bing Chat

Grosse KI-Sprachmodelle im Kontext von Wahlen

Wie zuverlässig beantwortet der Chatbot der Microsoft-Suchmaschine Bing Fragen zu den anstehenden Wahlen in der Schweiz, Bayern und Hessen? Unsere Forschung belegt: Das dahinter stehende grosse Sprachmodell GPT-4 erzeugt und verbreitet ausgedachte und irreführende Informationen. Das könnte zur Gefahr für die Demokratie werden.

Basisanalyse

Algorithmische Systeme am Arbeitsplatz – ein Überblick

Algorithmische Systeme am Arbeitsplatz können massive Auswirkungen auf Mitarbeitende haben, die deshalb über den Einsatz der Systeme mitbestimmen sollten, um ihre grundlegenden Rechte zu wahren. Unser Kurzbericht zeigt, wie Arbeitgeber in der Schweiz mit ihrer Verantwortung umgehen.

Wie nachhaltig sind KI-Systeme?

In der zweiten Ausgabe des SustAIn-Magazins zeigen wir, wann KI nicht nachhaltig ist und wie bessere Lösungen aussehen könnten.

Drei spannende Veröffentlichungen zu aktuellen Themen

In den letzten Wochen hat sich einiges getan. Unsere Kolleg*innen von AlgorithmWatch.org haben gleich drei interessante Publikationen veröffentlicht, die auch für uns höchst relevant sind. Es geht nämlich um nachhaltige KI, um diskriminierende Algorithmen und um die Macht grosser Online-Plattformen.

Algorithmen im schweizerischen öffentlichen Diskurs

AlgorithmWatch Schweiz hat eine Studie über die öffentliche Wahrnehmung von ADM-Systemen in Auftrag gegeben. Die Studie entstand im Rahmen eines Capstone-Kurses des Instituts für Politikwissenschaft an der Universität Zürch.

Ein risikobasierter Ansatz zur Regulierung von Künstlicher Intelligenz – mit Auswirkungen auf die Schweiz

In ihrem Beitrag in der Zeitschrift für Europarecht erläutert Angela Müller den KI-Verordnungsentwurf („AI Act“) der EU-Kommission und beleuchtet diesen kritisch. Darauf basierend legt sie dar, inwiefern die Verordnung für die Schweiz relevant würde und – darüber hinaus – welche Fragen sich für die Schweiz beim Umgang mit KI-Systemen stellen.

Automatisierte Entscheidungssysteme im öffentlichen Sektor – Ein Impact-Assessment-Tool für die öffentliche Verwaltung

Wie können wir gewährleisten, dass die öffentliche Verwaltung automatisierte Entscheidungssysteme vertrauenswürdig einsetzt? AlgorithmWatch und AlgorithmWatch Schweiz haben ein Instrument zur Folgenabschätzung (Impact Assessment Tool) erarbeitet, das Behörden verschiedener Verwaltungsebenen für die Analyse spezifischer Systeme verwenden können. Das Dokument ist jetzt auch auf Deutsch verfügbar.

Einsatz Künstlicher Intelligenz in der Verwaltung: ethische und rechtliche Fragen

Eine Studie im Auftrag des Kantons Zürich, durchgeführt von Prof. Dr. Nadja Braun Binder, Juristische Fakultät der Universität Basel, und ihrem Team in Zusammenarbeit mit AlgorithmWatch Schweiz.