Medienmitteilung

Europa reguliert KI – zugunsten von Big Tech und Sicherheit-Hardlinern

Europa steht kurz davor, zwei wichtige Gesetze zu Künstlichen Intelligenz zu verabschieden: die KI-Verordnung (AI Act) der EU und die KI-Konvention des Europarats. Der Bundesrat hat bereits angekündigt, dass er sich bei seinen KI-Regulierungsvorschlägen an diesen orientieren wird. Beide Regelwerke waren ursprünglich dazu gedacht, die Menschen wirksam vor Big-Tech-Interessen und dem Missbrauch von KI-Technologie durch Regierungen zu schützen. Doch nun könnten die Technologiekonzerne und Sicherheit-Hardliner in den Regierungen ihre Interessen doch noch durchsetzen.

Foto: Europarat

Angela Müller
Dr. Angela Müller
Geschäftsleiterin AlgorithmWatch CH | Head of Policy & Advocacy
Estelle Pannatier
Estelle Pannatier
Policy & Advocacy Managerin

Im KI-Ausschuss des Europarats, der sich diese Woche in Strassburg trifft, werden Optionen verhandelt, die es den Staaten erlauben würden, die Anwendbarkeit der KI-Konvention auf Behörden einzuschränken und private Unternehmen weitgehend aus dem Geltungsbereich auszuklammern. Die Schweiz spielt eine wichtige Rolle dabei, da sie den Vorsitz bei den Verhandlungen innehat. In der EU würde der Kompromiss zur KI-Verordnung zudem viele Menschen in prekären Situationen nicht verlässlich vor staatlicher Überwachung und Kontrolle schützen. Ausserdem würde der aktuelle Kompromiss Unternehmen von etlichen Pflichten befreien.

Open AI, Google/Alphabet, Microsoft, Amazon, Meta: Diese Konzerne profitieren vom immensen KI-Hype, der im November 2022 mit der Veröffentlichung von ChatGPT losbrach. Schon kurz darauf haben dieselben Konzerne und ihre Verbündeten lautstark gesetzliche Regeln für die Entwicklung und Nutzung der Technologie gefordert. Sie begründen ihre Forderungen nach gesetzlichen Regelungen für KI oft mit unrealistischen Zukunftsszenarien – etwa mit der Behauptung, dass KI eines Tages die Kontrolle über die Menschheit übernehmen könnte.

Ausnahmen untergraben den Zweck der Strassburger KI-Konvention

Anfangs mag es rätselhaft geklungen haben, dass KI-Entwickler eine staatliche Kontrolle ihrer Technologie fordern. Es könnte sich inzwischen aber als clevere Strategie entpuppen. Der Europarat (also die Organisation, dessen Mitglieder die Europäische Menschenrechtskonvention in Strassburg unterzeichnet haben) steht kurz vor dem Abschluss einer KI-Konvention, die die Menschenrechte, Demokratie und Rechtsstaatlichkeit schützen soll. Eine abschliessende Verhandlungssitzung ist für Mitte März angesetzt. Der veröffentlichte Entwurf dieser Konvention zeigt allerdings: Der internationale Vertrag zur Regulierung von KI würde in dieser Form den Staaten einen grossen Spielraum lassen, für Technologiekonzerne zur KI-Entwicklung und -Nutzung Ausnahmen geltend zu machen. An den Verhandlungen nehmen nicht nur Staaten teil, die Mitglied des Europarats sind, auch die USA ist daran beteiligt. Dort befinden sich bekanntlich die meisten weltweit grössten Tech-Unternehmen. Es ist ausserdem kein Geheimnis, dass die US-Regierung kein Interesse daran hat, sich mit dem Silicon Valley anzulegen.

«Die Entwicklung und Nutzung von KI durch private Unternehmen bringt Risiken und Schäden mit sich. Wenn eine KI-Regulierung uns nicht zuverlässig davor schützt, stellt sie Big Tech einen Blankoscheck aus. So sieht ein wirksamer Schutz unserer Rechte nicht aus.»

Angela Müller, Leiterin AlgorithmWatch CH

In einem heute veröffentlichten offenen Brief fordern AlgorithmWatch CH und über 30 weitere zivilgesellschaftliche Organisationen die verhandelnden Staaten auf, die Tech-Unternehmen stärker zu kontrollieren.

Derweil in Brüssel: Die KI-Verordnung der EU

Beim EU-Gesetz zur KI-Regulierung, dem sogenannten AI Act, ist diese Entwicklung sogar schon weiter fortgeschritten: Hinter verschlossenen Türen wurde eine Vereinbarung getroffen und es scheint sich nur noch um eine Formalie zu handeln, dass die Verordnung verabschiedet wird. Sie unterscheidet sich zwar von der KI-Konvention, da sie grundsätzlich sowohl für den öffentlichen als auch für den privaten Sektor gilt. Aber auch in der KI-Verordnung finden sich etliche Schlupflöcher für Tech-Unternehmen. Wichtige Bestimmungen der Verordnung, die auch die Zivilgesellschaft gefordert hatte, gelten nicht für private Unternehmen: etwa die Verpflichtung, vor dem Einsatz eines risikoreichen KI-Systems eine Folgenabschätzung für die Grundrechte durchzuführen und solche Systeme in einer öffentlichen Datenbank zu registrieren. Ausserdem könnten KI-Anbieter die Auflagen für risikoreiche KI-Systeme umgehen, indem sie einfach behaupten, dass ihre Systeme nur vorbereitende oder beschränkte Aufgaben erfüllen.

Die KI-Verordnung enthält sehr wichtige Massnahmen, um davor zu schützen, dass KI-Systeme missbraucht werden oder Schäden anrichten. Aber:

«Erst wird gross angekündigt, die Big-Tech-Konzerne stärker in die Pflicht zu nehmen. Im Laufe der politischen Verhandlungen lösen sich solche Pläne dann auf. Das dürfte nicht zuletzt an den vielen Millionen Euro liegen, die Big Tech für die Lobbyarbeit bei Entscheidungsträger*innen ausgibt»,

sagt Angela Müller.

Menschenrechte: In Strassburg und Brüssel auf verlorenem Posten

Die KI-Konvention des Europarats und die KI-Verordnung der EU unterscheiden sich in einer Hinsicht gar nicht voneinander: Beide Regelwerke werden wahrscheinlich dafür sorgen, dass die «nationale Sicherheit» ein Freifahrtschein für alle KI-Systeme ist. Mit diesem Argument können KI-Systeme vom Geltungsbereich der Gesetze ausgenommen werden.

Estelle Pannatier

«Private Unternehmen und die Sicherheitsbeauftragten der Regierungen haben in den beiden europäischen KI-Regelwerken ihre Interessen durchgesetzt. Das ist einfach inakzeptabel. KI-Systeme können unsere Rechte und die Interessen unserer Gesellschaft beeinträchtigen: Damit lassen sich die Nachrichten selektieren, die wir online sehen, sie wählen automatisch die Werbung aus, die uns angezeigt wird, sie entscheiden darüber, welche Bewerber*innen für eine offene Stelle infrage kommen, überwachen Migrant*innen oder bestimmen die Frequenz von Polizeipatrouillen in bestimmten Gebieten.»

Estelle Pannatier, Policy & Advocacy Managerin, AlgorithmWatch CH

Noch bleibt ein wenig Zeit

Während die KI-Verordnung beinahe abgeschlossen ist, bleibt den politischen Entscheidungsträger*innen in Strassburg noch ein kleines Zeitfenster, um schwerwiegende Mängel zu korrigieren und die europäischen KI-Regulierung wieder an den Grundrechten auszurichten. Die KI-Konvention ist dazu da, die Menschenrechte, Demokratie und Rechtsstaatlichkeit zu schützen. Zu dieser Wurzel müssen die Verhandlungen zurückkehren. Und die Schweiz muss bei den Verhandlungen über das Übereinkommen des Europarats, deren Vorsitz sie innehat, Verantwortung übernehmen.