Kurz erklärt

Europarat schafft Rahmenbedingungen für Künstliche Intelligenz

Nebst der EU reguliert auch der Europarat in Strassburg Künstliche Intelligenz – mit der KI-Konvention, dem ersten internationalen Vertrag zu KI. In diesem Leitfaden erklären wir, was dahinter steckt, warum das für uns alle wichtig ist und was die nächsten Schritte sind.

Stanford University Libraries via Public Domain Review

Angela Müller
Dr. Angela Müller
Leiterin AlgorithmWatch CH | Head of Policy & Advocacy

Algorithmische Systeme – oft bekannt unter dem Schlagwort ‚Künstliche Intelligenz‘ (KI) –werden heute eingesetzt, um Sozialleistungsbetrug aufzudecken, Menschen am Arbeitsplatz zu überwachen oder das Rückfallrisiko von Strafentlassenen vorherzusagen. Oftmals beruhen diese Systeme allerdings nicht nur auf wackligen wissenschaftlichen Grundlagen, sondern können auch Grundrechte – wie jene auf Nichtdiskriminierung, Meinungsäusserungsfreiheit, Privatsphäre oder Zugang zur Justiz – verletzen, demokratische Grundprinzipien untergraben und durch Intransparenz und fehlende Rechenschaft mit rechtsstaatlichen Grundsätzen in Konflikt geraten. Vor diesem Hintergrund ist nun auch der Europarat tätig geworden: Seine Mitgliedstaaten – darunter die Schweiz – haben gemeinsam mit interessierten anderen Staaten wie die USA oder Japan – in den letzten Jahren eine KI-Konvention ausgearbeitet, die künftig die Rahmenbedingungen für die Entwicklung und Nutzung von KI-Systemen setzen soll. Auch zivilgesellschaftliche Organisationen wie AlgorithmWatch sowie Expert*innen und Unternehmen haben als Beobachterorganisationen an den Verhandlungen teilgenommen.

Der Europarat ist eine internationale Organisation, die 1949 gegründet und mit der Aufgabe betraut wurde, Menschenrechte, Demokratie und Rechtsstaatlichkeit in Europa zu wahren. Er zählt derzeit 46 Mitgliedstaaten (von denen 27 auch Mitglieder der Europäischen Union (EU) sind) und hat seinen Sitz in Strassburg. Nicht zu verwechseln ist er mit dem Europäischen Rat und dem Rat der EU, die – im Gegensatz zum Europarat – beide Gremien der EU sind. 1950 hat der Europarat die Europäische Menschenrechtskonvention (EMRK) ausgearbeitet, die Staaten unterzeichnen und anerkennen müssen, bevor sie Mitglied im Europarat werden können. Der Europarat beherbergt den Europäischen Gerichtshof für Menschenrechte, der die Umsetzung der EMRK überwacht, und fördert die Menschenrechte durch eine Reihe zusätzlicher Massnahmen, darunter internationale Übereinkommen wie das Cybercrime-Übereinkommen oder die Konvention 108 zum Datenschutz.

Was würde dies bedeuten? Wie wird die Arbeit des Europarates unsere Rechte, unsere Demokratie und rechtsstaatliche Prinzipien schützen?

Der Europarat hat ein Rahmenübereinkommen (‚Framework Convention‘) erarbeitet. Es handelt sich dabei um ein für die künftigen Unterzeichnerstaaten völkerrechtlich bindender Vertrag. Staaten sind somit frei, zu unterzeichnen – aber wenn sie dies tun, verpflichten sie sich rechtlich zur Einhaltung. Die Unterzeichnung steht nicht nur den Europaratsmitgliedern offen, sondern auch interessierten anderen Staaten – und dies ist auch der Grund, warum etwa Staaten wie die USA oder Israel in Strassburg mitverhandelt haben. 

Das Übereinkommen enthält eine Reihe von Pflichten für Staaten, die sicherstellen sollen, dass Menschenrechte, Demokratie und Rechtsstaatlichkeit bei der Entwicklung und Nutzung von KI-Systemen geachtet werden. Es lässt jedoch an vielen Stellen viel Interpretations- und Umsetzungsspielraum und bezieht sich eher auf allgemeine Prinzipien. Die Unterzeichnerstaaten müssen diese Anforderungen dann auf nationaler Ebene umsetzen, indem sie entsprechende innerstaatliche Gesetze und Schutzmassnahmen einführen. Die Anforderungen gelten grundsätzlich horizontal, also für alle Sektoren – allerdings sind sie für Unternehmen weniger weitgehend als für öffentliche Behörden: Staaten können selbst entscheiden, welche Massnahmen sie für private Unternehmen vorsehen – es muss sich dabei nicht um bindende Gesetze handeln. Und im Bereich der «öffentlichen Sicherheit» werden auch Behörden ausgenommen, denn auf diesen Bereich ist die Konvention nicht anwendbar.

Da die Konvention auf nationaler Ebene umgesetzt werden muss, sind betroffene Personen dann durch die jeweils nationalen Gesetze vor schädlichen Auswirkungen von KI-Systemen geschützt und könnten auf nationaler Ebene Rechtsmittel einlegen. Auch schreibt die Konvention vor, dass Staaten eine nationale Aufsichtsstelle einrichten. Allerdings ist nicht vorgesehen, dass Einzelpersonen Verstösse gegen das neue KI-Übereinkommen direkt vor dem Europäischen Gerichtshof für Menschenrechte geltend machen können. Dessen Mandat ist nämlich auf die Europäische Menschenrechtskonvention EMRK beschränkt. Trotzdem könnten Einzelpersonen aber natürlich Beschwerden über eine Verletzung ihrer EMRK-Rechte im Zusammenhang mit KI-Systemen vor dem Gerichtshof geltend machen (vorausgesetzt, dass sie auf nationaler Ebene den Rechtsweg durchlaufen haben, die nationalen Gerichte also ihre Klage abgewiesen haben). Der Gerichtshof würde dann aller Voraussicht nach die in der KI-Konvention verankerten Grundsätze zumindest in der Auslegung der betroffenen EMRK-Rechte mitberücksichtigen.

Was bisher geschah

Wie geht es weiter?

Am 17. Mai 2024 soll die KI-Konvention vom Ministerkomitee verabschiedet werden. Danach steht sie den Staaten zur Unterzeichnung offen. Die Unterzeichnung ist erstmal eine Absichtserklärung – bevor die Konvention in einem Land wirklich gilt, muss sie von diesem «ratifiziert» werden. Dazu müssen erst die nationalen Parlamente zustimmen und wesentliche Bestimmungen der Konvention auf nationaler Ebene umgesetzt sein.

Was sagt AlgorithmWatch dazu?

AlgorithmWatch nahm als aktive und offizielle Beobachterorganisation an den Verhandlungen des CAI teil. Zuvor haben wir in den Jahren 2020 und 2021 als offizielle Beobachterin im CAHAI mitgewirkt. Das Ziel unserer Beteiligung war stets, die zivilgesellschaftliche Stimme in die Verhandlungen einzubringen und für eine KI-Konvention zu sorgen, die sich wirklich am Mandat des Europarates orientiert: dem Schutz unserer Grundrechte, unserer Demokratie und der Rechtsstaatlichkeit. Nach Verabschiedung der Konvention werden wir uns nun auf nationaler Ebene in der Schweiz und in Deutschland dafür einsetzen, dass sie die Bestimmungen entschlossen, umfassend und weitsichtig umsetzen – und sich nicht mit einer Minimallösung zufrieden geben.

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Europarat.

AlgorithmNews CH - abonniere jetzt unseren Newsletter!