Welche KI wollen wir? Der Bundesrat muss sich jetzt entscheiden

Geht es nach Google, Microsoft, Open Al und Co., dann wird KI nicht nur den Klimawandel stoppen, sondern auch Krankheiten ausrotten, erfolgreich den Hunger bekämpfen und Frieden schaffen – irgendwann, in Zukunft. Solch utopische Szenarien sind das Produkteines beispiellosen Hypes. bleiben aber im Spekulativen.

Viel aufschlussreicher ist es, sich den konkreten Nutzen, aber auch die tatsächlichen Schäden von KI im Hier und Jetzt anzuschauen: In den Niederlanden mussten Tausende Familien ihre über Jahre hinweg erhaltenen Kinderbetreuungsgelder zurückbezahlen, weil ein diskriminierender Algorithmus sie irrtümlicherweise des Betrugs bezichtigt hatte. Andernorts sortierten KI-Systeme Bewerbungen von Frauen aus oder führten zu falschen Verhaftungen. Social-Media-Algorithmen verbreiten Hassrede und versuchen Jugendliche möglichst lange online zu behalten. KI-Chatbots geben unzuverlässige Antworten und werden dennoch in Suchmaschinen integriert, wo Menschen sich etwa auch über Wahlen informieren. Gesichtserkennungssysteme überwachen den öffentlichen Raum, und im Krieg kann KI die Opfer auswählen.

Das sind keine spekulativen Szenarien, das alles passiert tatsächlich. Laisser-faire scheint also fehl am Platz. Sollte man die Technologie also ganz abwürgen? Nein. Der Bundesrat sollte diesen Winter einen klügeren Plan verfolgen.

Erstens muss er Schäden verhindern: KI kann Auswirkungen auf Grundrechte oder Demokratie haben – und um diese Güter zu schützen, wollen wir uns nicht auf den Goodwill der Tech-Anbieter verlassen müssen. Hier sollten wir als demokratische Gesellschaft die Anforderungen definieren, um eine verantwortungsvolle Nutzung von KI sicherzustellen

Das bedeutet dann zum Beispiel: Behörden müssen transparent machen, wenn sie mit Algorithmen über Menschen entscheiden; Mitarbeitende müssen einbezogen werden, wenn KI eingesetzt wird; und Menschen sind vor Diskriminierung durch KI zu schützen.

Letzteres Anliegen wird breit geteilt: Initiiert von AlgorithmWatch CH hat eine Allianz aus Politik, Zivilgesellschaft, Wissenschaft und Wirtschaft den Bundesrat jüngst aufgefordert, den Schutz vor Diskriminierung zu einer der Prioritäten zu machen, wenn er sich diesen Winter über mögliche Regulierungen rund um KI beugt. Nationalräte aus sechs Parteien tragen die Petition mit. Die Botschaft ist klar: Schlechte und ungerechte KI kann niemand wollen. Und um dies zu vermeiden, sind Regulierungen ein zentrales Mittel.

Bundesrat steht bei KI zunehmend unter Druck

Zweitens muss er einen tatsächlichen Nutzen für alle ermöglichen. Der Blick auf die gesamte Wertschöpfungskette der KI zeigt heute: Sie ist in den Händen weniger globaler Grosskonzerne, deren Marktwert der Wirtschaftsleistung von Frankreich oder Grossbritannien entspricht.

Der KI-Markt ist weder wettbewerbsfreundlich noch nachhaltig, sondern geprägt von Macht-konzentrationen, die durchaus demokratierelevant sind (notabene: Dieselben Unternehmen moderieren auf Social Media die Öffentliche Debatte und stellen die IT-Infrastruktur der Verwaltung oder auch die Schulsoftware unserer Kinder bereit). Generative KI-Modelle wie jene hinter ChatGPT oder Gemini gehen mit einem so enormen Verbrauch an Energie und Wasser einher, dass Google und Microsoft ihre Klimaziele de facto über Bord geworfen haben. In Kenya kategorisieren Menschen für ein bis zwei Dollar Stundenlohn unter prekären Arbeitsbedingungen die Daten für die KI-Modelle von Open Al oder sortieren Gewaltinhalte auf Facebook aus.

Diese politische Ökonomie dürfen wir nie ausser acht lassen, wenn wir über KI sprechen. Und statt entweder dem Hype oder der Verteufelung zu verfallen, sollten wir fragen: Welche KI wollen wir? Wie sorgen wir dafür, dass sie nicht nur die Interessen einiger weniger bedient? Und wie können wir KI gestalten – statt sie uns?

Um zu gestalten, braucht es Gestaltungswillen. Der Bundesrat muss Rahmenbedingungen setzen – durch die Förderung von interdisziplinärer Forschung, Medien und Demokratiekompetenz, durch Investitionen in öffentliche und gemeinnützige Infrastrukturen, durch Sensibilisierung und Bildung. Aber eben auch durch zielführende Regulierungen, die negative Auswirkungen und schädliche Innovationen verhindern – und gleichzeitig gestaltend sind, verantwortungsvolle KI-Lieferketten, nachhaltige KI-Entwicklung und einen gesunden-KI-Markt fördern, der gemeinwohlorientierte Innovationen hervorbringt.

Der Bundesrat muss also ambitioniert in diesen KI-Winter aufbrechen, ohne sich vom Hype beirren zu lassen: Er muss die Pille schlucken und die Symptome bekämpfen, die mit KI einhergehen. Und gleichzeitig muss er die Ursachen angehen und sich für eine gesündere technologische Entwicklung einsetzen, die einen tatsächlichen Nutzen bringt – für uns alle, nicht nur für Big Tech.

Der Beitrag erschien in der NZZ am Sonntag vom 6. Oktober 2024.