Recherche Was bedeutet es für die Demokratie, wenn Menschen in Politik und Verwaltung zulassen, dass KI ihre Entscheidungen beeinflusst?AlgorithmWatch hat untersucht, wie sich KI-Tools wie Chatbots auf die Demokratie auswirken könnten.
Recherche Rechenzentren in der Schweiz: Generieren ohne Grenzen? Wie der Ausbau digitaler Infrastruktur die Energiewende herausfordert.Die Elektrizitätswerke Zürich (EKZ) sind gefordert: Sechs der neun Unterwerke der EKZ entstehen zwischen 2014 und 2030 - primär, um den Stromhunger von neu entstandenen Rechenzentren zu stillen. In Volketswil soll 2028 ein 100-Megawatt-Rechenzentrum in Betrieb genommen werden. Es wird so viel Strom verbrauchen wie rund ein Fünftel der Stadt Zürich. Die zunehmende Digitalisierung treibt den infrastrukturellen Ausbau voran, und die breite Implementierung Künstlicher Intelligenz sowie generativer KI-Anwendungen (GenAI) führen zu einem deutlich höheren Datenaufkommen. Der rasante Ausbau immer leistungsfähigerer Zentren wirft die Frage auf, welche Folgen diese Entwicklung für die Schweiz und ihre Ressourcen hat.
Die KI-Revolution frisst ihre GigworkerManche Unternehmen lagern ganze Geschäftsprozesse an andere aus (Business Process Outsourcing, BPO). Im KI-Sektor verwalten solche BPO-Unternehmen die menschliche Arbeit, ohne die KI-Anwendungen nicht funktionieren würden. Die Arbeitsbedingungen sind bedenklich und die Tech-Konzerne profitieren davon.
Übergriffige Infrastruktur: In Europa breiten sich Rechenzentren ausRechenzentren sind Eckpfeiler der digitalen Ambitionen der EU, deshalb werden in ganz Europa immer mehr davon gebaut. Die Reaktionen der lokalen Bevölkerung fallen sehr unterschiedlich aus: An manchen Orten werden die Rechenzentren als Entwicklungsmotor betrachtet, woanders als Umweltsünde, die die Lebensqualität beeinträchtigt.
Gastbeitrag Wie die Bildagentur Getty Images die Kundschaft veräppeltWenn Bildredakteure bei der renommierten Bildagentur Getty für die Illustration eines Artikels Fotografien suchen, stossen sie oft auf computergenerierte Bilder, die danach der Leserschaft fälschlicherweise als Abbild der Realität angeboten werden. Eine Spurensuche entlang eines Tiefseekabels.
Können Algorithmen automatisch Bankkonten sperren?Der ecuadorianische Kleinunternehmer Atilio Andrade hat in Spanien dieselbe Erfahrung gemacht wie der Imam Koffi Agodjro in Frankreich: Ihre Bankkonten wurden plötzlich gesperrt und sie mussten gegen bürokratische Widerstände ankämpfen, um der Sache auf den Grund zu kommen.
Podcast «Falsch Positiv»: Ein Podcast über das automatisierte Sperren von KontenZusammen mit Agence France-Presse haben wir im Rahmen des «Algorithmic Accountability Reporting»-Fellowships eine sechsmonatige Recherche durchgeführt. Die Ergebnisse stehen hier als Podcast zur Verfügung.
Gig Economy: Wie KI-Training einen globalen Schwarzmarkt für Clickwork-Jobs erschaffen hatUnternehmen, die Daten für das Training von KI aufbereiten, überlassen ihr Personalrecruiting Kriminellen, die vom internationalen Lohndumping profitieren.
Gastbeitrag Wie die Sprache der Suchanfragen in ChatGPT Informationen beeinflusstWird ChatGPT auf Arabisch nach der Anzahl getöteter Zivilist*innen im Nahostkonflikt gefragt, gibt es im Durchschnitt deutlich höhere Opferzahlen an als bei derselben Frage auf Hebräisch. Diese systematischen Verzerrungen entlang von Sprachgrenzen können Vorurteile in bewaffneten Konflikten verstärken und Informationsblasen befeuern. Christoph Steinert von der Universität Zürich fasst für AlgorithmWatch CH die Ergebnisse seiner Forschung zum Thema zusammen.
KI im Wahlkampf Wie Conradin Cramer zum Skandal-Bundesrat wurdeBajour hat gemeinsam mit AlgorithmWatch CH im Vorfeld der Wahlen im Kanton Basel-Stadt KI-Chatbots auf ihre Zuverlässigkeit geprüft. Die Ergebnisse sind haarsträubend. Dabei wären korrekte Informationen für die öffentliche Meinungsbildung essenziell.
Geschlechtsangleichende Transition: Auch im digitalen Leben schwierigNur eine Formalität? Für die Transgender-Community ist der Wechsel der Online-Identität kein simpler Verwaltungsakt. Eine mangelhafte Datenarchitektur macht es nur schlimmer.
Experiment Wie KI-Bildgeneratoren die Welt zeigen: Stereotypen statt VielfaltStudien dazu befassen sich meistens nur mit MidJourney. Bei anderen Tools ist die ernste Absicht zu erkennen, eine grössere Vielfalt im Output darzustellen, wenn auch mit durchwachsenem Erfolg.
Aufgedeckt Algorithmischer Flickenteppich in Schweizer VerwaltungenWelche algorithmischen Systeme nutzen die Kantone, um Entscheidungen über Menschen zu beeinflussen? Diese Frage haben wir den 26 kantonalen Staatskanzleien gestellt und deren Antworten ausgewertet. Spoiler: Viele Kantone sind nicht in der Lage, vollständige Informationen über die von ihnen genutzten Systeme zur Verfügung zu stellen.
Neue Recherche FOTRES: Simple Mathematik mit komplizierten FolgenEin einfacher Algorithmus zur Ermittlung der Rückfallwahrscheinlichkeit von Straftäter*innen mutiert zu einem eigenen Diagnosesystem. Die Fachwelt hält seinen Einsatz für ethisch fragwürdig.
Für die soziale Durchmischung teilt in Uster ein Computer Klassen einEin Algorithmus für die Schulzuteilung? Was Klassen gerechter machen würde, löst vielerorts dubiose Ängste aus. Auch in der Zürcher Gemeinde Uster, wo sich die zuständige Schuldirektorin entschieden hat, es trotzdem zu tun.
Digitale Türsteher: KI in der PersonalauswahlUnternehmen setzen bei ihren Einstellungsprozessen immer häufiger auf automatisierte Entscheidungssysteme. Unter Jobkandidat*innen macht sich Angst breit, aufgrund von antrainierten Vorurteilen maschinell aussortiert zu werden. Eine Recherche bei Arbeitgebern, IT-Dienstleistern und Ausbildungsstätten zeigt, wie zugeknöpft viele der Akteur*innen bei dem Thema sind.
Facebook demontiert CrowdTangle: Mehr Transparenz durch schlechteren Datenzugang?Mit CrowdTangle können Akademiker*innen, Watchdog-Organisationen und Journalist*innen Desinformationen und andere problematische Inhalte auf der Plattform ausfindig machen. Facebook arbeitet daran, das Tool unbrauchbar zu machen, und handelt so gegen das eigene Versprechen, einen besseren Datenzugang zu gewährleisten.
Kennt der Supermarkt Ihr Gesicht?Immer mehr intelligente Videokameras erkennen Gesichter und führen automatische Analysen durch. Von aussen ist das jedoch nicht zu erkennen. Kommt dies im öffentlich zugänglichen Raum auch in der Schweiz zum Einsatz?
Streit um rassistische Bildbearbeitung bei Twitter – was stimmt?Mit seinem Algorithmus zum Beschneiden von Bildern hat sich Twitter dem Verdacht des Rassismus ausgesetzt. Ein Experiment der Fachhochschule Bern legt allerdings nahe, dass das Verfahren fehlerfrei funktioniert.
Minuspunkte für HautfarbeAlgorithmen sollen die Nierenfunktion berechnen oder ein Herzversagen vorhersagen. Und verwenden dabei die Hautfarbe als zentrales Kriterium. Einige medizinische Algorithmen liefern daher diskriminierende Resultate – auch in der Schweiz.
