Medienmitteilung

KI-Konvention des Europarats: Kein Freifahrtschein für Unternehmen und Sicherheitsbehörden!

Die KI-Konvention soll das erste rechtsverbindliche internationale Übereinkommen zu KI werden. Ab dem 11. März 2024 finden die abschliessenden Verhandlungen dazu in Strassburg statt. Mit am Verhandlungstisch sitzen die Mitglieder des Europarats (darunter die Schweiz und die EU-Staaten) und Nicht-Mitglieder wie die USA, Japan oder Kanada. AlgorithmWatch, über 90 Organisationen der Zivilgesellschaft und prominente Wissenschaftler*innen fordern die verhandelnden Staaten auf, Unternehmen und nationalen Sicherheitsbehörden beim Einsatz von KI nicht einfach freie Hand zu lassen.

Angela Müller
Dr. Angela Müller
Geschäftsleiterin AlgorithmWatch CH | Head of Policy & Advocacy
Estelle Pannatier
Estelle Pannatier
Policy & Advocacy Managerin

Die Mitglieder des Europarats in Strassburg haben die Europäische Menschenrechtskonvention unterzeichnet, die vor fast 75 Jahren verabschiedet wurde. Nun stehen sie kurz vor dem Abschluss eines weiteren völkerrechtlich verbindlichen Abkommens: der Konvention zu Künstlicher Intelligenz (KI). Diese Konvention soll die Menschenrechte, Demokratie und Rechtsstaatlichkeit vor den schädlichen Auswirkungen von KI schützen.

Ausnahmen für die Privatwirtschaft und «nationale Sicherheit»

Der veröffentlichte Entwurf zeigt allerdings: Es könnte dazu kommen, dass der internationale Vertrag zur Regulierung von KI keine Regeln für Technologie-Unternehmen setzen würde – oder den Staaten zumindest einen grossen Spielraum lässt, diese Konzerne davon auszunehmen.

«Dies würde ein gefährliches Signal senden: Das erste internationale Regelwerk zu KI könnte so den Konzernen einen Freipass erteilen, KI ihren eigenen Interessen gemäss zu entwickeln und einzusetzen. Die verhandelnden Staaten müssen sicherstellen, dass KI den Interessen der Menschheit dient und nicht denen von einigen wenigen Konzernen – umso mehr, als der Europarat in Europa die Menschenrechte hüten soll.»

Angela Müller, Leiterin AlgorithmWatch CH

Ausserdem wird die Konvention voraussichtlich nicht anwendbar sein, wenn Staaten KI unter dem Deckmantel der «nationalen Sicherheit» entwickeln lassen und verwenden. Unter diesen vagen Begriff könnten ganz unterschiedliche KI-Anwendungen fallen: Gesichtserkennung im öffentlichen Raum, KI-Grenzschutz oder das Scannen unserer Social-Media-Profile. All diese Einsatzbereiche verlangen nach dem Schutz unserer Grundrechte. Dieser Schutz darf nicht durch einen Freifahrtschein für die «nationale Sicherheit» ausgehebelt werden.

Über 90 zivilgesellschaftliche Organisationen aus aller Welt (darunter mehr als ein Dutzend Schweizer Organisationen) und prominente Wissenschaftler*innen fordern deshalb in einem offenen Brief die verhandelnden Staaten auf, sowohl den öffentlichen als auch den privaten Sektor abzudecken (also keine Ausnahmen für privatwirtschaftliche Unternehmen vorzusehen) und pauschale Ausnahmen im Namen der nationalen Sicherheit abzulehnen.

Die Rolle der Schweiz

Die Schweiz nimmt bei der KI-Konvention des Europarats eine wichtige Rolle ein, da sie bei den Verhandlungen den Vorsitz hat. In der Schweiz findet gerade eine Analyse zum Regulierungsbedarf zu KI statt. Für diese Analyse will sich der Bundesrat an den Entscheidungen des Europarats orientieren. In der aussenpolitischen Strategie 2024-2027 des Bundes heisst es allerdings: «Demokratische Selbstbestimmung, Rechtsstaatlichkeit und die Respektierung der Menschenrechte müssen auch im digitalen Raum gewährleistet bleiben». Entsprechend ist die Schweiz aufgefordert, Verantwortung zu übernehmen.

«Wir erwarten von der Schweiz mehr als eine abwartende Haltung. Sie muss sich dafür einsetzen, dass diese Konvention die Grundrechte effektiv schützt, auch wenn KI-Systeme von Unternehmen entwickelt und eingesetzt werden.»

Estelle Pannatier, Policy & Advocacy Managerin, AlgorithmWatch CH

Noch bleibt ein wenig Zeit

Den politischen Entscheidungsträger*innen in Strassburg bleibt nur noch ein kleines Zeitfenster, um schwerwiegende Mängel zu korrigieren und die KI-Konvention wieder an den Grundrechten auszurichten. Die KI-Konvention ist dazu da, die Menschenrechte, Demokratie und Rechtsstaatlichkeit zu schützen. Zu dieser Wurzel müssen die Verhandlungen zurückkehren. Dafür muss auch die Schweiz Verantwortung übernehmen.