Positionspapier: Ein Rechtsrahmen für Künstliche Intelligenz
AlgorithmWatch Schweiz hat ein Positionspapier zur Regulierung von KI-Systemen in der Schweiz mitverfasst. Dieses wurde gemeinsam mit Wissenschaftler·innen verschiedener Disziplinen verfasst und vom DSI Strategy Lab der Universität Zürich unterstützt.
Algorithmische Entscheidungssysteme (ADM-Systeme), oft diskutiert unter dem Schlagwort «Künstliche Intelligenz», sind heute allgegenwärtig – sie werden etwa genutzt zur Prüfung der Kreditwürdigkeit durch private Unternehmen, zur Prognose des Rückfallrisikos bei Inhaftierten oder zur Anzeige personalisierter Werbung auf Social Media Plattformen. Während ihr Einsatz grosser Nutzen verspricht, geht er regelmässig auch mit Risiken und Herausforderungen für Mensch und Gesellschaft einher.
Das hat auch für das Recht Konsequenzen – denn eine Rechtsordnung muss sich diesen Risiken und Herausforderungen stellen. Auch in der Schweiz müssen wir die Frage der rechtlichen Regulierung von ADM-Systemen proaktiv angehen. Nachdem die EU bereits einen KI-Verordnungsentwurf vorgelegt hat und die Vorbereitungen zu einem KI-Rechtsrahmen auch im Europarat angelaufen sind, wird diese Debatte in der Schweiz nun angestossen.
Gemeinsam mit Wissenschaftler·innen verschiedenster Disziplinen haben Anna Mätzener und Matthias Spielkamp für AlgorithmWatch Schweiz das Positionspapier «Ein Rechtsrahmen für Künstliche Intelligenz» mitverfasst.
Das Papier sieht keine horizontale Regulierung von ADM-Systemen vor, sondern setzt auf eine Kombination von allgemeinen und sektorspezifischen Normen. Es ist im Detail zu analysieren, wo rechtliche Lücken bestehen und wie diese zu schliessen sind, und wo bestehende Gesetze angewendet und gegebenenfalls neu auszulegen sind.
Das Positionspapier konzentriert sich dabei auf fünf Felder von Massnahmen:
- Transparenz, Erkennbarkeit und Nachvollziehbarkeit
- Diskriminierung
- Manipulation
- Haftung
- Datenschutz und Datensicherheit
Zur Förderung von Transparenz wird beispielsweise eine Kennzeichnungspflicht oder die Schaffung öffentlicher Register für ADM-Systeme, die im öffentlichen Sektor eingesetzt werden, erwogen. Die Einführung eines allgemeinen Gleichbehandlungsgesetzes bietet sich an, um der Diskriminierung unter Privaten durch den Einsatz von ADM-Systemen zu begegnen. In gewissen Bereichen sind zudem Verbote und Moratorien zu prüfen: Der Einsatz von Gesichtserkennungs- und anderen biometrischen Erkennungssystemen im öffentlichen Raum, der eine Massenüberwachung ermöglicht, ist nicht mit unseren Grundrechten vereinbar. Dasselbe gilt für Social Scoring Systeme.
Das Positionspapier wurde an einer vom DSI Strategy Lab, dem Center for Information, Technology, Society (ITSL) der Universität Zürich und der Universität Basel organisierten Veranstaltung der Öffentlichkeit vorgestellt und diskutiert. Die Videos der Präsentationen sind jetzt auf der Seite des DSI Strategy Lab verfügbar.
Sehen Sie hier die Paneldiskussion mit Angela Müller (AlgorithmWatch Schweiz) nach:
Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zu ADM im öffentlichen Sektor.