
Grundrechte schützen, Demokratie verteidigen, Nachhaltigkeit ermöglichen
Welche KI wollen wir? Rahmenbedingungen für Algorithmen & Künstliche Intelligenz
Der Bundesrat analysiert bis Ende 2024 den Regulierungsbedarf rund um KI und wird darauf basierend mögliche Schritte einleiten. Was der Bundesrat und das Parlament aus Sicht der Grundrechte, Demokratie und Nachhaltigkeit dabei beachten sollten, fassen wir hier zusammen.

Übersicht
Algorithmen und Künstliche Intelligenz (KI) werden immer mehr eingesetzt – und oft wird über ihre potenziellen Chancen und Risiken in der Zukunft spekuliert. Die Entwicklung und der Einsatz der Systeme wirken sich aber schon heute und tatsächlich auf Mensch und Gesellschaft aus – und damit auf Bedingungen der Demokratie: auf Grundrechte, Gleichbehandlung und Minderheitenschutz genauso wie auf die Bildung, die öffentliche Debatte und Meinungsbildung oder gesellschaftliche Machtverteilungen. Wir sollten uns deshalb fragen: Welche KI wollen wir? Wie sorgen wir dafür, dass diese Technologie nicht bestehende Ungerechtigkeiten reproduziert und nur die Interessen einiger Weniger bedient? Und wie können wir KI gestalten – statt sie uns?
Wenn wir dafür sorgen wollen, dass Algorithmen und KI uns allen zugutekommen, haben wir die Verantwortung, uns der gesellschaftlichen Herausforderungen, mit denen sie einhergehen, ernsthaft anzunehmen.
Dazu sollten wir Rahmenbedingungen für die Entwicklung und den Einsatz von Algorithmen und KI gestalten, die …
… Schäden verhindern: Algorithmen und KI können Auswirkungen auf Grundrechte, Gerechtigkeit, Demokratie und Nachhaltigkeit haben. Um diese gesellschaftlichen Errungenschaften zu schützen, wollen wir uns nicht auf das Gutdünken der Tech-Unternehmen verlassen müssen. Hier müssen wir als demokratische Gesellschaft die Anforderungen definieren und eine verantwortungsvolle und gerechte Nutzung der Technologie sicherstellen.
… einen Nutzen für alle ermöglichen: Der Blick auf die Wertschöpfungskette hinter KI zeigt: Sie ist heute in den Händen weniger globaler Grosskonzerne. Diese Machtkonzentration dürfen wir nie ausser Acht lassen, wenn wir über unseren Umgang mit KI nachdenken. Das Ziel muss sein, die technologische Entwicklung an sich nachhaltig und im Interesse des Gemeinwohls zu gestalten und nicht nur Partikularinteressen einiger Weniger zu bedienen: KI soll so entwickelt und eingesetzt werden, dass sie allen Menschen tatsächlich zugutekommt.
Die Politik muss also Gestaltungswillen zeigen, um im Umgang mit Algorithmen und KI Grundrechte schützen, Demokratie verteidigen und Nachhaltigkeit ermöglichen zu können. Sie muss die interdisziplinäre Forschung, Bildung und gesellschaftliche Sensibilisierung zu KI fördern, öffentliche und gemeinnützige Infrastrukturen dafür bereitstellen und die Demokratiekompetenz und Medienvielfalt stärken. Gleichzeitig braucht es aber auch Massnahmen auf gesetzlicher Ebene. Damit sollen insgesamt Rahmenbedingungen gestaltet werden, die negative Auswirkungen verhindern und gleichzeitig verantwortungsvolle KI-Lieferketten, eine nachhaltige KI-Entwicklung und einen fairen KI-Markt fördern, der gemeinwohlorientierte Innovationen hervorbringt.
Diese Chance hat der Bundesrat jetzt: Er analysiert bis Ende 2024 den Regulierungsbedarf rund um KI und wird darauf basierend nächstes Jahr mögliche Schritte einleiten. Was der Bundesrat und das Parlament aus Sicht der Grundrechte, Demokratie und Nachhaltigkeit dabei beachten sollten, fassen wir untenstehend kurz zusammen und ist in unserem Positionspapier ausführlich zu lesen.
KI & Grundrechte
Algorithmen und KI können Entscheidungen über Menschen beeinflussen: sei es, wenn die Systeme Jobbewerbungen prüfen, die Kreditwürdigkeit messen, den Zugang zu Bildungsinstitutionen regeln, Verbrechen vorhersagen, Rückfallquoten prognostizieren oder Sozialleistungsbetrug aufdecken sollen. Dabei können sie diskriminierende und anderweitig schädliche Auswirkungen auf Einzelpersonen haben und ihre Grundrechte tangieren.
Ziel: Wir stellen sicher, dass Algorithmen und KI nachvollziehbar, verantwortungsvoll und grundrechtskonform eingesetzt werden, wenn sie Entscheidungen über Menschen beeinflussen.
Dafür brauchen wir Massnahmen, um Transparenz herzustellen, Grundrechte zu schützen, den Diskriminierungsschutz zu stärken, Aufsicht auszuüben sowie den Zugang zu Rechtsmitteln und Rechenschaftspflichten zu gewährleisten.
Weiterlesen im Positionspapier auf Seite 5
KI, Gesellschaft & Demokratie
Ein wesentlicher Teil unserer öffentlichen Debatte spielt sich heute auf Social-Media-Plattformen wie Instagram, X, LinkedIn oder TikTok ab, deren Algorithmen uns möglichst lange online behalten sollen, um damit ihren Profit zu maximieren. Informationen, die für unsere Meinungsbildung relevant sind, beschaffen wir uns über Suchmaschinen wie Google oder Bing. Inhalte wie etwa Deepfakes, die Menschen schaden oder die Meinungsbildung beeinträchtigen, werden – zunehmend auch von generativen KI-Systemen – erstellt und durch intransparente Algorithmen auf Plattformen verbreitet. Diese Intransparenz, die fehlende Rechenschaftspflicht und die Konzentration von Markt- und Meinungsmacht bei wenigen milliardenschweren multinationalen Technologieunternehmen stellen für unsere öffentliche Debatte eine Herausforderung dar.
Ziel: Wir ermöglichen eine konstruktive öffentliche Debatte: förderlich für die Gesellschaft und die Demokratie, positiv für die Einzelnen und fair für alle.
Dafür brauchen wir Massnahmen, um zu untersuchen, wie sich die algorithmische Steuerung auf die öffentliche Debatte auswirkt und was das für uns als Einzelpersonen und als Gesellschaft bedeutet. Wir müssen Online-Plattformen und KI-Anbieter zur Rechenschaft ziehen können, wenn sie negative Auswirkungen in Kauf nehmen, um ihren Profit zu maximieren.
Weiterlesen im Positionspapier auf Seite 7
KI, Macht & Nachhaltigkeit
KI gibt es heute nicht ohne Big Tech. Die Wertschöpfungskette ist geprägt von Machtkonzentrationen bei wenigen Grosskonzernen, einem enormen Verbrauch an Ressourcen wie Energie und Wasser, beträchtlichen CO2-Emissionen und teils prekären Arbeitsbedingungen – etwa, wenn das Training der Modelle in den Globalen Süden ausgelagert wird.
Ziel: Wir sorgen dafür, dass KI-Systeme über die ganze Wertschöpfungskette hinweg selbst nachhaltig gestaltet werden – ökologisch, ökonomisch und sozial.
Dafür brauchen wir Massnahmen, um der enormen und demokratierelevanten Marktmacht einiger weniger Unternehmen zu begegnen und um einen nachhaltigen KI-Markt sowie eine gemeinwohlorientierte KI-Entwicklung zu ermöglichen. Zudem sind Unternehmen, die KI entwickeln und einsetzen, gefordert, für ihre Lieferketten Verantwortung zu übernehmen und Sorgfaltspflichten in Bezug auf Nachhaltigkeit und Menschenrechte zu achten.
Weiterlesen im Positionspapier auf Seite 9