#impactassessment (6 Ergebnisse)

Publikation

KI verantwortungsvoll einsetzen: Unser Impact Assessment Tool

Algorithmische und KI-basierte Systeme können ethisch relevante Auswirkungen auf Menschen haben. Diejenigen, die sie einsetzen, tragen deshalb eine besondere Verantwortung. Das von AlgorithmWatch entwickelte Tool zur Folgenabschätzung unterstützt und befähigt dabei, dieser Verantwortung gerecht zu werden.

Projekt «HUMAN»

HUMAN – der Schritt hin zum verantwortungsvollen Einsatz von KI

Wenn die Polizei versucht, mittels Algorithmen die Rückfallwahrscheinlichkeit von Straftäter*innen zu berechnen, wenn Arbeitgeber mit KI Bewerbungen vorsortieren oder wenn der KI-Chatbot Medienartikel erstellt: Wer ist dann betroffen von diesen algorithmisch generierten Inhalten, Empfehlungen und Entscheidungen? Wie können Betroffene einbezogen werden, um ihre Rechte und Interessen zu sichern?

Kanton Aargau will vollautomatisierte Entscheide in der Verwaltung ermöglichen

Der Kanton Aargau hat ein neues Gesetz über die Verwaltungsrechtspflege in die Vernehmlassung geschickt. Dieses sieht vor, vollautomatisierte Entscheide ohne jegliche menschliche Überprüfung in der kantonalen Verwaltung zuzulassen. AlgorithmWatch CH betrachtet die neue Regelung kritisch, begrüsst aber die Einführung einer begleitenden Folgenabschätzung.

Milestone: Der Kanton Zürich plant ein Register für automatisierte Entscheidungssysteme

Wenn die öffentliche Verwaltung algorithmische Systeme einsetzt, muss sie ihrer besonderen Verantwortung gerecht werden. Dies tut sie unter anderem, indem sie transparent macht, welche Systeme sie nutzt. AlgorithmWatch setzt sich seit Langem dafür ein, dass Verwaltungen dies im Rahmen eines öffentlichen Registers tun. Auch im Kanton Zürich haben wir uns dafür stark gemacht – und das hat sich gelohnt: Der Kanton plant die Einführung eines solchen Registers.

Position

Automatisierte Entscheidungen im öffentlichen Sektor – einige Empfehlungen

Auch öffentliche Verwaltungen setzen zunehmend algorithmische oder KI-basierte Systeme ein, um Entscheidungen zu unterstützen oder zu treffen. Behörden tragen dabei eine besondere Verantwortung den Menschen gegenüber, die von diesen Entscheidungen betroffen sind. Deshalb müssen Behörden als ersten Schritt sicherstellen, dass ihre Verwendung transparent und nachvollziehbar erfolgt, etwa durch öffentliche Verzeichnisse und eine verpflichtende Folgenabschätzung.

Automatisierte Entscheidungssysteme im öffentlichen Sektor – Ein Impact-Assessment-Tool für die öffentliche Verwaltung

Wie können wir gewährleisten, dass die öffentliche Verwaltung automatisierte Entscheidungssysteme vertrauenswürdig einsetzt? AlgorithmWatch und AlgorithmWatch Schweiz haben ein Instrument zur Folgenabschätzung (Impact Assessment Tool) erarbeitet, das Behörden verschiedener Verwaltungsebenen für die Analyse spezifischer Systeme verwenden können. Das Dokument ist jetzt auch auf Deutsch verfügbar.