Quo Vadis Bundesrat?

Algorithmen und Künstliche Intelligenz (KI) werden in allen Bereichen immer häufiger eingesetzt – und sie sind auch in der Schweiz allgegenwärtig, wie unser Atlas der Automatisierung aufzeigt: Sie prognostizieren das Risiko häuslicher Gewalt, bewerten Arbeitnehmende oder moderieren die Debatte auf Social-Media-Plattformen. Aber welche rechtlichen Rahmenbedingungen sind notwendig, um sicherzustellen, dass diese Systeme tatsächlich Gerechtigkeit, Demokratie und Nachhaltigkeit fördern, statt Intransparenz, Diskriminierung und Machtungleichgewichte zu befördern? Die Schweiz macht sich – langsam – auf den Weg, um politische Antworten auf diese Frage zu finden.

Analyse des Regulierungsbedarfs bis Ende 2024

Der Bundesrat hat am 22. November 2023 das Eidgenössische Departement für Umwelt, Verkehr, Energie und Kommunikation (UVEK) beauftragt, eine Übersicht möglicher Regulierungsansätze von KI bis Ende 2024 zu erstellen. Dies hatte er zuvor schon in seiner Antwort auf das Postulat Dobler 23.3201 angekündigt. Auf der Grundlage dieser Analyse will der Bundesrat dann laut Medienmitteilung im Jahr 2025 «einen konkreten Auftrag für eine Regulierungsvorlage KI erteilen».

In seiner jüngsten Antwort auf die Interpellation von Nationalrätin Min Li Marti erwähnt der Bundesrat, dass er sich für die KI-Regulierung stark auf die Arbeiten des Ausschusses für künstliche Intelligenz des Europarats sowie die Arbeiten der Europäischen Union zum AI Act stützen will. In der Antwort geht er auch auf verschiedene Schwerpunktbereiche der Arbeit von AlgorithmWatch CH ein: Er wird etwa prüfen, ob die bestehenden gesetzlichen Bestimmungen einen ausreichenden Schutz vor Diskriminierung bieten, und analysieren, ob eine Pflicht zur Folgenabschätzung für algorithmische Systeme erforderlich ist, um grundrechtliche Risiken einzuschätzen. Wir freuen uns sehr, dass diese wichtigen Herausforderungen – und langjährigen Forderungen unsererseits – in die Auslegeordnung des Bundesrates einfliessen werden.

Nach der Erarbeitung der Regulierungsansätze durch das UVEK plant der Bundesrat daher, im Jahr 2025 verschiedene Gesetzgebungsprozesse einzuleiten. Es versteht sich von selbst, dass wir noch einige Jahre warten müssen, bis der gesetzliche Rahmen angepasst und die konkreten Regulierungseffekte sichtbar werden. Und bis dahin?

Bestehende Gesetze gelten auch für KI

Schon heute befinden wir uns nicht in einer rechtsfreien Zone: Die bestehenden Normen und Gesetze gelten auch im digitalen Bereich, online oder bei automatisierten Entscheiden. In diesem Zusammenhang erinnerte der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) in einer Stellungnahme im November daran, dass das Datenschutzgesetz auch für Künstliche Intelligenz anwendbar ist.

«Das Datenschutzgesetz des Bundes (DSG) ist technologieneutral formuliert und demzufolge auch auf den Einsatz von KI-gestützten Datenbearbeitungen direkt anwendbar, weshalb der EDÖB die Hersteller, Anbieter und Verwender entsprechender Applikationen auf die gesetzliche Pflicht hinweist, bereits bei der Entwicklung neuer Technologien und bei der Planung ihres Einsatzes sicherzustellen, dass die betroffenen Personen über ein möglichst hohes Mass an digitaler Selbstbestimmung verfügen.»

Stellungnahme Adrian Lobsiger, Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB), vom 9. Nov. 2023

Das revidierte Datenschutzgesetz bietet in der Tat wichtige Hebel beim Einsatz von Algorithmen und KI, insbesondere in Hinblick auf individuelle Transparenz. Das Gesetz weist jedoch auch eine Reihe von Schwachstellen auf, etwa die Tatsache, dass die besonderen Bestimmungen über automatisierte Entscheidungsfindung nur für vollautomatische Systeme gelten, während die meisten heute verwendeten Systeme Entscheide eher unterstützen, also Empfehlungen oder Prognosen machen (Teilautomatisierung) – und dabei aber genauso relevante Auswirkungen haben können. Das Datenschutzgesetz kann auch keine Transparenz auf kollektiver Ebene gewährleisten (etwa durch die Einrichtung öffentlicher Verzeichnisse der in der Verwaltung verwendeten algorithmischen Systeme). Und dann ist das Datenschutzgesetz natürlich nur anwendbar, wenn es um personenbezogene Daten geht. Anders gesagt: Der Datenschutz ist ein wichtiges Regulierungsinstrument, reicht aber nicht aus, um alle Herausforderungen im Zusammenhang mit dem Einsatz von Algorithmen und KI zu lösen – und er kann auch nicht alleine dafür zuständig sein, vor allen Arten von grundrechtlichen Risiken zu schützen.

Die parlamentarische Arbeit geht langsam voran

Mit Beginn der neuen Legislaturperiode wird nun aber die parlamentarische Arbeit an der Regulierung von Algorithmen und KI nicht nur immer intensiver, sondern sie wird auch diverser. Die Politik erkennt, dass Algorithmen unseren Alltag in verschiedensten Bereichen prägen, dass der Facebook-Algorithmus und das Risikobewertungstool für Straftäter*innen nicht dieselben Herausforderungen mit sich bringen – und dass entsprechend auch in verschiedenen rechtlichen Bereichen Massnahmen angezeigt sind. Es gibt schlicht keine ‘one size fits all’ Lösung.

Im Hinblick auf den Einsatz von algorithmischen Systemen am Arbeitsplatz etwa wird Nationalrätin Barbara Gysi eine Motion einreichen, um die Mitwirkungsrechte der Arbeitnehmenden zu stärken. Die Forderungen basieren auf den in einem von AlgorithmWatch CH und syndicom in Auftrag gegebenen Rechtsgutachten aufgezeigten Lücken. Bei den Rahmenbedingungen für den Einsatz algorithmischer Systeme in der öffentlichen Verwaltung stehen fünf spezifisch auf diesen Bereich fokussierende Motionen und Postulate zur Bearbeitung im Parlament an.

• Motion 21.4508 «Öffentliches Verzeichnis der in der Verwaltung eingesetzten Algorithmen»
• Motion 23.3806 «Deklarationspflicht bei Anwendungen der künstlichen Intelligenz und automatisierten Entscheidungssystemen»
• Postulat 23.3566 «Vollständigkeit des Transparenzregisters für den Einsatz von künstlicher Intelligenz durch die Bundesverwaltung sicherstellen»
• Postulat 23.3565 «Transparenzregister für den Einsatz von künstlicher Intelligenz durch die bundesnahen Betriebe»
• Postulat 21.4406 «Bericht zur Regulierung von automatisierten Entscheidungssystemen»

Bei den Vorstössen, die im Dezember 2021 eingereicht wurden, droht, dass sie nach der Wintersession 2023 unbehandelt abgeschrieben werden. Wir von AlgorithmWatch CH arbeiten nun daran, dass mit der neuen Legislaturperiode auch die Regulierungsvorschläge rund um Algorithmen und KI auf der Prioritätenliste des Parlaments nach oben wandern.

Social Media sollen in der Schweiz bald reguliert werden

Und noch ein Meilenstein erwartet uns ab 2024: Auch die Regulierung von Social-Media-Plattformen wie Facebook, Instagram oder X (ehem. Twitter) ist ein wichtiges Puzzleteil der Regulierung, da diese Plattformen von Algorithmen und KI gesteuert werden. Mit Blick auf die gesellschaftliche Bedeutung der Online-Plattformen hat die EU beschlossen, sie mittels dem Digital Services Act (DSA) und dem Digital Markets Act (DMA) zu regulieren. Und die Schweiz zieht nach: Bis Ende März 2024 bereitet das UVEK für den Bundesrat einen Gesetzesentwurf vor, den es dann in die Vernehmlassung schickt (unser Leitfaden beleuchtet die aktuellen politischen Entwicklungen im Detail). Damit werden auch die Tech-Konzerne ihr Lobbying in der Schweiz intensivieren – und umso wichtiger wird es in den nächsten Jahren, ein zivilgesellschaftliches Gegengewicht aufrechtzuerhalten.