Medienmitteilung

Europarat: KI-Konvention wird Menschenrechte nicht angemessen schützen

Ende letzter Woche hat sich der Europarat auf eine Konvention zu Künstlicher Intelligenz (KI) geeinigt – und damit den Weg frei gemacht für den ersten bindenden internationalen Vertrag zu KI. Ausnahmen und Schlupflöcher für Unternehmen und Sicherheitsbehörden lassen befürchten, dass die Konvention Menschenrechte, Demokratie und Rechtsstaatlichkeit nicht umfassend zu schützen vermag.

18. März 2024

#councilofeurope

Angela Müller
Dr. Angela Müller
Geschäftsleiterin AlgorithmWatch CH | Head of Policy & Advocacy
Estelle Pannatier
Estelle Pannatier
Policy & Advocacy Managerin

In der letzten Phase der Verhandlungen hat AlgorithmWatch mit mehr als 100 Organisationen der Zivilgesellschaft und prominenten Wissenschaftler*innen die verhandelnden Staaten aufgefordert, Unternehmen und nationalen Sicherheitsbehörden beim Einsatz von KI nicht einfach freie Hand zu lassen. Auch die Menschenrechtskommissarin des Europarats und der Europäischen Datenschutzbeauftragte forderten, dass die Konvention auch auf private Unternehmen anwendbar sein muss. Dieser Ruf verhallte nicht gänzlich ungehört in Strassburg: Der inzwischen geleakte Text zeigt, dass zwar eine vollständige Ausnahme für private Unternehmen, wie sie einige Staaten gefordert hatten, vom Tisch ist. Allerdings wird den Staaten ermöglicht, Private mit Samthandschuhen anzufassen, wenn es um die Umsetzung der Konvention geht: Staaten können selbst entscheiden, welche Massnahmen sie für Unternehmen vorsehen – und es muss sich dabei nicht um verbindliche Gesetze halten. Obwohl es nicht an Belegen mangelt, wie Tech-Konzerne mit Social-Media-Algorithmen oder Deep-Fake-Generatoren unsere öffentliche Meinungsbildung beeinflussen: Der Europarat vertraut also darauf, dass etwa auch eine reine Selbstregulierung von Unternehmen ausreichen wird, um Menschenrechte und Demokratie zu schützen.

Daran, dass alle Systeme, die unter dem Deckmantel der “nationalen Sicherheit” entwickelt und eingesetzt werden, nicht von der Konvention erfasst werden, hält der Europarat fest. Wenn also Sicherheitsbehörden KI einsetzen, um die Bevölkerung zu überwachen, werden keine zusätzlichen Regeln dafür sorgen, Menschenrechte und Rechtsstaatlichkeit zu schützen.

Auch sonst wird das Ergebnis den hohen Erwartungen an mehreren Stellen nicht gerecht. Die Staaten haben im Lauf der zweijährigen Verhandlungen die Konvention zunehmend weichgespült, so dass sie nun zum Ende einen quasi deklaratorischen Charakter erhielt. Auch KI-Systeme, die mit Menschenrechten unvereinbar scheinen und deshalb verboten werden sollten, sind nicht mehr explizit aufgelistet. Stattdessen wird es einzelnen Staaten überlassen, Menschen davor zu schützen, dass KI ihre Gesichter analysiert, wenn sie sich in der Öffentlichkeit bewegen, oder mit unwissenschaftlichen Methoden versucht, ihre Emotionen zu erkennen.

Ein schwaches Signal, das Strassburg in die Welt sendet

Die teilnehmenden Staaten entschuldigen die zahlreichen Ausnahmen und abgeschwächten Formulierungen damit, dass es zentral gewesen sei, um diverse Staaten mit an Bord zu haben – darunter auch Nicht-Europaratsmitglieder wie die USA, Kanada oder Israel. Obwohl es begrüssenswert ist, wenn die Konvention von vielen Ländern anerkannt wird, darf dies nicht dazu führen, dass dadurch ihr Mandat verwässert wird.

Angela Müller

«Der Europarat schafft einen Präzedenzfall, wenn er den ersten internationalen Vertrag zu KI schafft, der Menschenrechte und Demokratie schützen soll – und dann Sicherheitsbehörden einen Freipass erteilt und Tech-Konzerne nur mit Samthandschuhen anfasst. Das könnte zukünftige Regulierungsvorhaben prägen. Es ist klar, wer davon einmal mehr profitiert: die Tech-Konzerne. Trotzdem ist es ein zivilgesellschaftlicher Erfolg, dass private Unternehmen nicht komplett ausgeschlossen werden können – es ist also ein fragwürdiger Kompromiss, über den wir trotzdem erleichtert sein müssen.»

Angela Müller, Leiterin AlgorithmWatch CH

Nach dem gestrigen Abschluss der Verhandlungen soll die KI-Konvention im Mai vom Ministerkomitee des Europarats offiziell verabschiedet werden. Danach steht sie den einzelnen Staaten zur Unterzeichnung offen. Ob alle, die an den Verhandlungen teilgenommen haben, auch tatsächlich unterzeichnen und ratifizieren werden, bleibt offen.

Die Rolle der Schweiz

Die Schweiz nahm bei der KI-Konvention des Europarats eine wichtige Rolle ein, da sie bei den Verhandlungen den Vorsitz hatte. In der Schweiz findet gerade eine Analyse zum Regulierungsbedarf zu KI statt. Für diese Analyse will sich der Bundesrat an den Entscheidungen des Europarats orientieren. In der aussenpolitischen Strategie 2024-2027 des Bundes heisst es allerdings: «Demokratische Selbstbestimmung, Rechtsstaatlichkeit und die Respektierung der Menschenrechte müssen auch im digitalen Raum gewährleistet bleiben». Entsprechend ist die Schweiz aufgefordert, Verantwortung zu übernehmen und auch griffige Regeln für private Unternehmen und Sicherheitsbehörden vorzusehen.

Estelle Pannatier

«Wir erwarten von der Schweiz, dass sie die Konvention nicht nur minimal umsetzt. Sie muss ihre Gesetze so gestalten, dass sie die Grundrechte wirksam schützen, auch wenn KI-Systeme von Unternehmen und Sicherheitsbehörden entwickelt und eingesetzt werden.»

Estelle Pannatier, Policy & Advocacy Managerin, AlgorithmWatch CH