Briefing
Wenn Algorithmen & KI (mit)entscheiden: Grundrechte schützen
Der Bundesrat will die Konvention zu Künstlicher Intelligenz des Europarates ratifizieren. Wir zeigen in einem neuen Briefing auf, was bei der Regulierung von KI berücksichtigt werden muss, damit Algorithmen und KI nachvollziehbar, verantwortungsvoll und grundrechtskonform eingesetzt werden, wenn sie Entscheidungen über Menschen beeinflussen.
better imagesofai
Dr. Angela Müller
Geschäftsleiterin AlgorithmWatch CH | Gesellschafterin AlgorithmWatch
Algorithmen und Künstliche Intelligenz (KI) können Entscheidungen über Menschen beeinflussen, sei es, wenn Systeme Stellenbewerbungen prüfen, die Kreditwürdigkeit bewerten, den Zugang zu Bildungsinstitutionen regeln, Verbrechen vorhersagen, Rückfallquoten prognostizieren oder Sozialleistungsbetrug aufdecken sollen. Diese Systeme erstellen Prognosen, geben Empfehlungen oder treffen Entscheidungen (automatisierte Entscheidungssysteme, kurz: ADM) oder sie generieren Inhalte, die Entscheidungen über Menschen betreffen. Dabei kann es auch zu nachteiligen Auswirkungen auf Personen kommen, die deren Grundrechte tangieren.
Der Bundesrat hat in seinem Grundsatzentscheid vom 12. Februar 2025 anerkannt, dass KI zum Schutz der Grundrechte reguliert werden muss. Entsprechend hat er die Konvention zu KI des Europarates unterzeichnet und bereitet bis Ende 2026 die für die Ratifizierung der Konvention notwendigen Gesetzesvorschläge vor, insbesondere in den Bereichen Transparenz, Diskriminierungsschutz und Aufsicht. Dies ist ein wichtiges Signal, dass Menschenrechte, Demokratie und Rechtsstaatlichkeit im Umgang mit KI geschützt und gefördert werden müssen. Die Umsetzung der Konvention wird wichtige Massnahmen erforderlich machen, die zum Grundrechtsschutz beitragen.
Aber nur wenn die Schweiz die KI-Konvention entschlossen und ambitioniert umsetzt, können Grundrechte verlässlich geschützt werden. Verbindliche Massnahmen müssen für die Entwicklung und den Einsatz von algorithmischen und KI-Systemen sowohl im öffentlichen als auch im privaten Sektor getroffen werden. Denn auch Private treffen für Menschen wesentliche Entscheidungen, bei denen die Systeme zum Einsatz kommen können: etwa, wenn sie Stellenbewerbungen evaluieren, die Leistung von Mitarbeitenden bewerten, Versicherungsleistungen berechnen oder die Bonität prüfen. Auch die Entwicklung und der Einsatz von algorithmischen und KI-Systemen in Bereichen, die nicht in den Anwendungsbereich der Konvention fallen, wie etwa die nationale Sicherheit, dürfen ebenfalls nicht ausgeklammert werden – denn gerade hier sind Bereiche tangiert, in denen der Schutz von Grundrechten eine besondere Relevanz erhält.
Dieses Briefing gibt einen Überblick über unsere Empfehlungen, damit Algorithmen und KI nachvollziehbar, verantwortungsvoll und grundrechtskonform eingesetzt werden, wenn sie Entscheidungen über Menschen beeinflussen.
Unsere Empfehlungen
- Beim Einsatz von KI für die Entscheidungsfindung müssen wir sicherstellen, dass die von KI-Systemen beeinflussten Entscheidungen für die Betroffenen transparent und nachvollziehbar sind. Die Autonomie der Menschen muss gewahrt und der Schutz vor Diskriminierung gestärkt werden.
- Als Gesellschaft sollten wir dort rote Linien ziehen, wo Anwendungen von KI und Algorithmen unverhältnismässige Auswirkungen auf Menschen und ihre Grundrechte haben, die mit der Idee einer demokratischen Gesellschaft grundsätzlich unvereinbar sind.
- Der Grundrechtsschutz soll bei der Entwicklung und dem Einsatz von KI entlang der ganzen Wertschöpfungskette sichergestellt werden.
Dies ist jedoch nur ein Puzzleteil einer ganzheitlichen Strategie für den Umgang mit KI. In unserem umfassenden Positionspapier «Welche KI wollen wir? Rahmenbedingungen für Algorithmen & Künstliche Intelligenz» zeigen wir darüber hinaus auf, welche Rahmenbedingungen notwendig sind, um die Entwicklung und den Einsatz von Algorithmen und KI so zu gestalten, dass Schaden verhindert und Nutzen für alle ermöglicht wird.
