Europarat schafft Rahmenbedingungen für Künstliche Intelligenz

Algorithmische Systeme – oft bekannt unter dem Schlagwort ‚Künstliche Intelligenz‘ (KI) –werden heute eingesetzt, um Sozialleistungsbetrug aufzudecken, Menschen am Arbeitsplatz zu überwachen oder das Rückfallrisiko von Strafentlassenen vorherzusagen. Oftmals beruhen diese Systeme allerdings nicht nur auf wackligen wissenschaftlichen Grundlagen, sondern können auch Grundrechte – wie jene auf Nichtdiskriminierung, Meinungsäusserungsfreiheit, Privatsphäre oder Zugang zur Justiz – verletzen, demokratische Grundprinzipien untergraben und durch Intransparenz und fehlende Rechenschaft mit rechtsstaatlichen Grundsätzen in Konflikt geraten. Vor diesem Hintergrund ist nun auch der Europarat tätig geworden: Seine Mitgliedstaaten – darunter die Schweiz – haben gemeinsam mit interessierten anderen Staaten wie die USA oder Japan – in den letzten Jahren eine KI-Konvention ausgearbeitet, die künftig die Rahmenbedingungen für die Entwicklung und Nutzung von KI-Systemen setzen soll. Auch zivilgesellschaftliche Organisationen wie AlgorithmWatch sowie Expert*innen und Unternehmen haben als Beobachterorganisationen an den Verhandlungen teilgenommen.

Der Europarat ist eine internationale Organisation, die 1949 gegründet und mit der Aufgabe betraut wurde, Menschenrechte, Demokratie und Rechtsstaatlichkeit in Europa zu wahren. Er zählt derzeit 46 Mitgliedstaaten (von denen 27 auch Mitglieder der Europäischen Union (EU) sind) und hat seinen Sitz in Strassburg. Nicht zu verwechseln ist er mit dem Europäischen Rat und dem Rat der EU, die – im Gegensatz zum Europarat – beide Gremien der EU sind. 1950 hat der Europarat die Europäische Menschenrechtskonvention (EMRK) ausgearbeitet, die Staaten unterzeichnen und anerkennen müssen, bevor sie Mitglied im Europarat werden können. Der Europarat beherbergt den Europäischen Gerichtshof für Menschenrechte, der die Umsetzung der EMRK überwacht, und fördert die Menschenrechte durch eine Reihe zusätzlicher Massnahmen, darunter internationale Übereinkommen wie das Cybercrime-Übereinkommen oder die Konvention 108 zum Datenschutz.

Was würde dies bedeuten? Wie wird die Arbeit des Europarates unsere Rechte, unsere Demokratie und rechtsstaatliche Prinzipien schützen?

Der Europarat hat ein Rahmenübereinkommen (‚Framework Convention‘) erarbeitet. Es handelt sich dabei um ein für die künftigen Unterzeichnerstaaten völkerrechtlich bindender Vertrag. Staaten sind somit frei, zu unterzeichnen – aber wenn sie dies tun, verpflichten sie sich rechtlich zur Einhaltung. Die Unterzeichnung steht nicht nur den Europaratsmitgliedern offen, sondern auch interessierten anderen Staaten – und dies ist auch der Grund, warum etwa Staaten wie die USA oder Israel in Strassburg mitverhandelt haben. 

Das Übereinkommen enthält eine Reihe von Pflichten für Staaten, die sicherstellen sollen, dass Menschenrechte, Demokratie und Rechtsstaatlichkeit bei der Entwicklung und Nutzung von KI-Systemen geachtet werden. Es lässt jedoch an vielen Stellen viel Interpretations- und Umsetzungsspielraum und bezieht sich eher auf allgemeine Prinzipien. Die Unterzeichnerstaaten müssen diese Anforderungen dann auf nationaler Ebene umsetzen, indem sie entsprechende innerstaatliche Gesetze und Schutzmassnahmen einführen. Die Anforderungen gelten grundsätzlich horizontal, also für alle Sektoren – allerdings sind sie für Unternehmen weniger weitgehend als für öffentliche Behörden: Staaten können selbst entscheiden, welche Massnahmen sie für private Unternehmen vorsehen – es muss sich dabei nicht um bindende Gesetze handeln. Und im Bereich der «öffentlichen Sicherheit» werden auch Behörden ausgenommen, denn auf diesen Bereich ist die Konvention nicht anwendbar.

Da die Konvention auf nationaler Ebene umgesetzt werden muss, sind betroffene Personen dann durch die jeweils nationalen Gesetze vor schädlichen Auswirkungen von KI-Systemen geschützt und könnten auf nationaler Ebene Rechtsmittel einlegen. Auch schreibt die Konvention vor, dass Staaten eine nationale Aufsichtsstelle einrichten. Allerdings ist nicht vorgesehen, dass Einzelpersonen Verstösse gegen das neue KI-Übereinkommen direkt vor dem Europäischen Gerichtshof für Menschenrechte geltend machen können. Dessen Mandat ist nämlich auf die Europäische Menschenrechtskonvention EMRK beschränkt. Trotzdem könnten Einzelpersonen aber natürlich Beschwerden über eine Verletzung ihrer EMRK-Rechte im Zusammenhang mit KI-Systemen vor dem Gerichtshof geltend machen (vorausgesetzt, dass sie auf nationaler Ebene den Rechtsweg durchlaufen haben, die nationalen Gerichte also ihre Klage abgewiesen haben). Der Gerichtshof würde dann aller Voraussicht nach die in der KI-Konvention verankerten Grundsätze zumindest in der Auslegung der betroffenen EMRK-Rechte mitberücksichtigen.

Was bisher geschah

• 2019 - 2021: Der Ad-hoc-Ausschuss für Künstliche Intelligenz (CAHAI) bereitet die Verhandlungen vor. Er veröffentlicht eine „Machbarkeitsstudie“ zu einem Rechtsrahmen für KI und verabschiedet zum Ende seines Mandates die abschliessenden Empfehlungen „Mögliche Elemente eines Rechtsrahmens für Künstliche Intelligenz auf der Grundlage der Standards des Europarats für Menschenrechte, Demokratie und Rechtsstaatlichkeit“.
• April 2022: Der neue Ausschuss für Künstliche Intelligenz (Committee on Artificial Intelligence CAI) hält seine konstituierende Sitzung in Rom ab und wählt den Schweizer Botschafter Thomas Schneider zu seinem Vorsitzenden. Seine Arbeit soll sich auf die abschliessenden Empfehlungen des CAHAI stützen. Der CAI hat nun jedoch den Auftrag, bis November 2023 ein „geeignetes Rechtsinstrument“ auszuhandeln – siehe Mandatsbestimmungen.
• Juni 2022: Der Europarat legt fest, dass das Ziel der Verhandlungen ein rechtlich bindendes Übereinkommen oder Rahmenübereinkommen sein soll.
• Januar 2023: Dritte Plenarversammlung des CAI. Es wird beschlossen, dass die Sitzungen künftig zwischen Plenarversammlung und „Drafting Group“ aufgeteilt werden. Die Drafting Group soll Vorschläge zum Text der Konvention erarbeiten. Zivilgesellschaftliche und andere Beobachterorganisationen sind von ihr ausgeschlossen.
• März 2024: In der finalen Verhandlungsrunde verabschiedet das CAI seinen Entwurf zur KI-Konvention.
• April 2024: Die parlamentarische Versammlung des Europarats (PACE) diskutiert den Entwurf der KI-Konvention und nimmt in einer sogenannten «Opinion» dazu Stellung.

Wie geht es weiter?

Am 17. Mai 2024 soll die KI-Konvention vom Ministerkomitee verabschiedet werden. Danach steht sie den Staaten zur Unterzeichnung offen. Die Unterzeichnung ist erstmal eine Absichtserklärung – bevor die Konvention in einem Land wirklich gilt, muss sie von diesem «ratifiziert» werden. Dazu müssen erst die nationalen Parlamente zustimmen und wesentliche Bestimmungen der Konvention auf nationaler Ebene umgesetzt sein.

Was sagt AlgorithmWatch dazu?

AlgorithmWatch nahm als aktive und offizielle Beobachterorganisation an den Verhandlungen des CAI teil. Zuvor haben wir in den Jahren 2020 und 2021 als offizielle Beobachterin im CAHAI mitgewirkt. Das Ziel unserer Beteiligung war stets, die zivilgesellschaftliche Stimme in die Verhandlungen einzubringen und für eine KI-Konvention zu sorgen, die sich wirklich am Mandat des Europarates orientiert: dem Schutz unserer Grundrechte, unserer Demokratie und der Rechtsstaatlichkeit. Nach Verabschiedung der Konvention werden wir uns nun auf nationaler Ebene in der Schweiz und in Deutschland dafür einsetzen, dass sie die Bestimmungen entschlossen, umfassend und weitsichtig umsetzen – und sich nicht mit einer Minimallösung zufrieden geben.

• April 2024: Wir informieren Mitglieder der parlamentarischen Versammlung über unsere Einschätzung, die diese in ihren Voten aufnehmen.
• Januar & März 2024: Gemeinsam mit über 100 zivilgesellschaftlichen Organisationen und Forscher*innen riefen wir die verhandelnden Staaten auf, dafür zu sorgen, dass die Konvention für öffentliche Behörden und private Unternehmen gleichermassen gilt und pauschale Ausnahmen für die nationale Sicherheit abzulehnen.
• Januar 2023: Anlässlich des Internationalen Tag des Datenschutzes rufen wir dazu auf, für eine wirksame KI-Konvention zu sorgen.
• Oktober 2022: Gemeinsam mit unseren Partnern rufen wir die EU dazu auf, die Verhandlungen des Europarates zur KI-Konvention nicht zu verzögern.
• April 2022: Bei der Eröffnungssitzung des CAI haben wir in Zusammenarbeit mit unseren wichtigsten Partnerorganisationen unsere Kernforderungen klar formuliert.
• Dezember 2021: Am Ende des CAHAI-Mandats und nach zwei Jahren intensiver Arbeit befürchteten wir, dass die Empfehlungen des CAHAI hinter dem zurückbleiben, was notwendig ist, um die uneingeschränkte Achtung und den Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit zu gewährleisten.

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Europarat.