Stellungnahme zur Vernehmlassung
Berner Datenschutzgesetz: Mehr Transparenz, weniger Überwachung
Die Totalrevision des Berner Datenschutzgesetzes sollte dazu genutzt werden, um Rahmenbedingungen für den Einsatz algorithmischer Systeme zu setzen, die Menschenrechte und Rechtsstaat stärken.
Am 23. Juni 2023 eröffnete die Direktion für Inneres und Justiz des Kanton Bern die Vernehmlassung zum Vorentwurf für eine Totalrevision des Kantonalen Datenschutzgesetz (KDSG). Die für AlgorithmWatch CH zentralen Aspekte umfassen den Umgang mit algorithmischen Systemen, die von der öffentlichen Verwaltung eingesetzt werden, sowie die biometrische Überwachung.
Verzeichnis und Folgenabschätzung für algorithmische Systeme
Algorithmische Systeme, oft auch benannt als «Künstliche Intelligenz (KI)», werden immer häufiger und in allen Bereichen eingesetzt, um mithilfe von Algorithmen, Prognosen zu erstellen, Empfehlungen zu machen, Entscheidungen zu fällen oder Inhalte zu generieren. Die öffentliche Verwaltung trägt beim Einsatz von solchen Systemen eine besondere Verantwortung den Menschen gegenüber, die von diesen Entscheidungen betroffen sind. Der Vorentwurf des Datenschutzgesetz enthält zwar Regelungen zur Registereintragungs- und Verzeichnispflicht. Diese bezieht sich jedoch nicht auf algorithmische Systeme. Um die Nachvollziehbarkeit der Entscheidungen sicherzustellen, sollte die Verwaltung daher als ersten Schritt strikten Transparenzpflichten unterworfen sein. Diese umfasst etwa, dass sie Verzeichnisse der von ihr verwendeten algorithmischen Systeme schafft und eine verpflichtende Folgenabschätzung durchführen muss.
Verbot der biometrischen Überwachung
Die Identifizierung und Überwachung mittels biometrischen Erkennungssystemen im öffentlich zugänglichen Raum stellen eine Verletzung des Rechts auf Privatsphäre (Art. 13 BV, Art. 8 EMRK, Art. 17 UNO-Pakt II) und des Rechts auf informationelle Selbstbestimmung (Art. 13 Abs. 2 BV) dar. Sie können zudem Menschen davon abschrecken, weitere Grundrechte wahrzunehmen, wie etwa der Meinungsäusserungs- oder Versammlungsfreiheit. Darüber hinaus können biometrische Erkennungssysteme bestehende Diskriminierungen verstärken sowie zu neuen Diskriminierungen führen. Der Vorentwurf des Datenschutzgesetz enthält jedoch keine Bestimmungen zum Umgang mit biometrischer Überwachung. Dies bedauern wir ausdrücklich. Biometrische Erkennungssysteme im öffentlichen Raum sind schwere, nicht verhältnismässige Eingriffe in die Grund- und Menschenrechte und daher zu verbieten.
