Die EU reguliert Künstliche Intelligenz – was bedeutet das für die Schweiz?

Vergangene Woche hat die EU-Kommission ihren mit Spannung erwarteten Gesetzesentwurf zur Regulierung von Systemen vorgelegt, die auf Künstlicher Intelligenz (KI) beruhen. Der Entwurf ist trotz verschiedener Lücken und Schlupflöcher ein Schritt in die richtige Richtung – nämlich dahin, sicherzustellen, dass der Einsatz von KI-Systemen individuelle Autonomie und Gemeinwohl fördert statt sie zu beschränken.

Blog

28. April 2021

#eu #regulierung

Die umfassende Einschätzung von AlgorithmWatch dazu findet sich hier [en].

Bevor er in Kraft tritt, muss der Gesetzesentwurf nun von den Mitgliedsstaaten und vom EU-Parlament angenommen werden. Klar ist jedoch bereits jetzt: Diese Regulierung wird nicht nur innerhalb der EU Wirkung entfalten, sondern auch ausserhalb. Was bedeutet dies für die Schweiz?

Direkte extraterritoriale Wirkung

Zuallererst würde die KI-Regulierung direkte sogenannte extraterritoriale Auswirkungen auf Drittstaaten haben. Sie wäre immer dann anwendbar, wenn ein KI-System innerhalb der EU eingesetzt oder dessen Output in der EU «verwendet» wird. In anderen Worten: In der Schweiz ansässige Anbieter·innen und Anwender·innen würden der Regulierung unterworfen, auch wenn sie weder ihren Sitz noch einen Ableger auf EU-Territorium haben und unabhängig davon, ob sie ihre Leistung kostenpflichtig anbieten oder nicht – und dies in zwei Fällen: 

  • Erstens dann, wenn sie ihre Systeme Unternehmen, öffentlichen Stellen oder Personen innerhalb der EU zugänglich machen. Dies würde auf einen Grossteil von Schweizer Anbieter·innen zutreffen. Ein Unternehmen, das beispielsweise in der Schweiz KI-Systeme im Gesundheitsbereich entwickelt, wird diese regelmässig auch Spitälern oder Forschungseinrichtungen in der EU zur Verfügung stellen wollen. 
  • Zweitens dann, wenn eine in der Schweiz von einem KI-basierten System getroffene Prognose, Empfehlung oder Entscheidung innerhalb der EU «verwendet» wird – also grundsätzlich auch dann, wenn die schweizerische Bundesverwaltung einen Chatbot zur Abwicklung von Anfragen seitens EU-Bürger·innen betreffend Schweizer Aufenthalts- und Arbeitsbewilligungen einsetzt. 

Diese Regelung soll insbesondere verhindern, dass EU-basierte Unternehmen oder Behörden hochriskante Systeme an Anbieter in Drittstaaten auslagern, diese dann aber Auswirkungen auf Personen innerhalb der EU haben. 

Es ist anzunehmen, dass die extraterritoriale Wirkung auch in der finalen Fassung bestehen bleiben wird. Sie reiht sich ein in die (gerade im digitalpolitischen Bereich beobachtbare) Tendenz der EU, Sachbereiche möglichst lückenlos für das eigene Territorium zu regeln – so dass in der Folge Regulierungen durchaus auch in Drittstaaten Wirkung entfalten. 

Willkommene Nebeneffekte 

Zusätzlich wird die KI-Regulierung relevante Nebeneffekte in Drittstaaten haben – und dies nicht nur für Anbieter·innen, sondern auch für Endnutzer·innen. Ähnlich wie dies nach Einführung der Datenschutzgrundverordnung (DSGVO) der Fall war, werden viele Anbieter in der Schweiz sich aus Gründen der Effizienz und der Einfachheit dazu entscheiden, ihre Systeme grundsätzlich den EU-Regeln konform auszugestalten. Denn: Viele KI-Systeme werden grenzüberschreitend angeboten, weshalb es für deren Anbieter enorm aufwändig oder schlichtweg unmöglich wäre, nach Endnutzer·innen innerhalb oder ausserhalb der EU zu unterscheiden. Ob US-basiertes BigTech-Unternehmen oder Schweizer Start-up, wenn ein KI-basiertes System beispielsweise allgemein (und somit auch für Personen in der EU) angeboten wird, müssen die EU-Regeln eingehalten werden. 

Ähnlich wie bei der DSGVO, hat auch dies zur Folge, dass indirekt auch die Schweizer Bevölkerung vom zusätzlichen Schutz vor riskanten KI-Anwendungen, die die EU-Regulierung zu bieten versucht, profitieren wird. Auch wenn der Entwurf der EU-Kommission zum heutigen Zeitpunkt viele Schlupflöcher aufweist und noch nicht ausreichenden Schutz vor den Risiken, die der Einsatz von ADM-Systemen mit sich bringen kann, gewährleistet – für die Schweiz, wo es bisher keine entsprechende Regulierung gibt, kann sie so (de facto und bis zu einem gewissen Grad) zusätzlichen Schutz vor diskriminierenden und grundrechtsverletzenden KI-Systemen bieten. 

«Standard-setting» für die Welt und politische Impulse für die Schweiz 

Mit ihrer Strategie, Europa «fit for the digital age» zu machen, in die sich die KI-Regulierung einreiht, positioniert sich die EU einmal mehr als proaktive Akteurin in digitalpolitischen Themen und deren Verknüpfung mit den Werten der Union. Trotz bestehender Lücken: Durch das Bekenntnis zur menschlichen Würde und Autonomie, zu demokratischen Prinzipien und Grundrechtsschutz distanziert sich die EU deutlich von einem «laissez faire» Ansatz, wie er anderswo verfolgt wird. Wie bereits die DSGVO, ist auch bei der KI-Regulierung abzusehen, dass sie global Standards setzen und die Debatte rund um den Umgang mit KI weltweit prägen wird. Drittstaaten werden prüfen, ihre Gesetzgebung der EU anzunähern – nicht zuletzt, um Innovationsfähigkeit, Wettbewerbsfähigkeit und den EU-Marktzugang für ihre Unternehmen zu sichern und Rechtssicherheit zu gewährleisten.  

Wie so oft wird sich dieser Druck besonders in Staaten bemerkbar machen, die besonders eng mit dem EU-Binnenmarkt verknüpft sind – darunter die Schweiz. Bisher gibt es keine absehbaren Bemühungen des Bundesrats oder Parlaments, eine umfassende (also nicht auf einen Sektor begrenzte) Regulierung von KI-Systemen in der Schweiz umzusetzen. Gemäss der Strategie Digitalaussenpolitik engagiert sich die Schweiz für eine «massvolle Regulierung» auf internationaler Ebene. Die 2019 verabschiedete «Strategie Digitale Schweiz» beinhaltet zwar das Ziel, die Rahmenbedingungen für einen transparenten und verantwortungsvollen Einsatz von KI zu schaffen, und die Leitlinien zum Einsatz von KI in der Bundesverwaltung verfolgen einen menschzentrierten Ansatz. Es ist jedoch nicht erkennbar, dass geplant ist, dafür auch gesetzgeberisch aktiv zu werden im Sinne einer umfassenden Regulierung auf nationaler Ebene. 

Nun wird sich aber auch die Schweiz damit befassen müssen, was die EU-Regulierung für sie bedeutet. Zu hoffen ist, dass dieser Schritt der EU – wie dies auch von der Vorstellung des DSA und DMA letzten Dezember zu hoffen ist – auch der Schweiz wichtige Impulse geben wird, um die dringend notwendige politische Debatte um den Einsatz von Systemen automatisierter Entscheidungsfindung (automated decision-making, ADM) voranzutreiben. Die Debatte alleine wird noch nicht die vielen Herausforderungen zu lösen vermögen, die sich im Zusammenhang mit dem Einsatz von ADM-Systemen ergeben, aber sie ist Voraussetzung dafür, diesen Einsatz nachvollziehbar, verantwortlich und zum Nutzen der Gesellschaft zu gestalten. 

Dr. iur. des. Angela Müller

Senior Policy & Advocacy Managerin

Foto: David Bächtold
Angela Müller ist Senior Policy & Advocacy Manager bei AlgorithmWatch Schweiz und leitet das Policy & Advocacy Team bei AlgorithmWatch. Sie hat einen PhD (Dr.des.) in Rechtswissenschaft und einen M.A. in Political and Economic Philosophy. Ihre Dissertation hat sie zur extraterritorialen Anwendung von Menschenrechten, u.a. in Zusammenhang mit der Nutzung neuer Technologien, an der Universität Zürich verfasst, wo sie auch Mitglied der Digital Society Initiative ist. Sie war Visiting Researcher an der Columbia University, New York, sowie an der Hebrew University, Jerusalem. Zuvor war Angela Müller als Projektleiterin beim Think Tank foraus, als Projektmanagerin einer Innovationsplattform der Hochschule Luzern sowie in der UNO-Abteilung des Schweizerischen Aussendepartements EDA tätig. Sie engagiert sich zudem als Vize-Präsidentin der Gesellschaft Schweiz-UNO.