Stellungnahme
KI in der Bundesverwaltung: Teilstrategie als Puzzleteil
Der Bundesrat hat am letzten Freitag seine Teilstrategie für den Einsatz von Künstlicher Intelligenz in der Bundesverwaltung veröffentlicht. Diese Strategie ist ein wichtiges Puzzleteil bei der Gestaltung von Rahmenbedingungen für KI. Sie muss sich jedoch in einem Umsetzungsplan konkretisieren. Erst dann wird ersichtlich, ob und wie KI verantwortungsvoll in der Verwaltung eingesetzt wird. Was die Bundesverwaltung dabei beachten sollte, stellen wir im Folgenden kurz vor.
Bild: Bundeskanzlei BK
Dr. Angela Müller
Geschäftsleiterin AlgorithmWatch CH | Gesellschafterin AlgorithmWatch
Die Teilstrategie «Einsatz von KI-Systemen in der Bundesverwaltung» beschreibt die Vision der Verwaltung für ihren Einsatz von KI und erklärt die Prinzipien, die sie für einen verantwortungsvollen Umgang mit diesen Systemen befolgen möchte. Das Dokument sieht vor, dass KI dazu beitragen soll, die Verwaltungsprozesse und -dienstleistungen zu optimieren, Führungskräfte und Mitarbeitende zu unterstützen und neue Lösungsansätze in der Bundesverwaltung zu eröffnen. Die Strategie benennt für ihre Umsetzung drei spezifische Handlungsfelder: Kompetenzen aufbauen, Vertrauen gewinnen, Effizienz steigern. Für jeden von ihnen legt sie Ziele fest.
Wir begrüssen, dass die Verwaltung sich strategische Gedanken zum Einsatz von KI macht und dabei festlegt, welche Prinzipien sie dabei befolgen soll. Da die Regulierungen rund um KI in der Schweiz noch in den Anfängen stecken, ist es entscheidend, einen klaren und umfassenden Plan zu entwickeln, um im Umgang mit Algorithmen und KI Grundrechte zu schützen, die Demokratie zu verteidigen und Nachhaltigkeit zu ermöglichen. Die Strategie ist ein wichtiges Puzzleteil dafür. Zudem macht sie etwas Entscheidendes – und etwas, das die bisherige Auslegeordnung und Stossrichtung des Bundesrates vermissen lässt: Sie geht von übergreifenden Zielen und Prinzipien aus und leitet davon Handlungsfelder ab. Zu diesen Prinzipien zählt sie zentral auch den Schutz der Grundrechte sowie die ökologische, soziale und ökonomische Nachhaltigkeit. Die Bundesverwaltung erkennt also hier, dass die Entwicklung und der Einsatz von KI nicht mit Scheuklappen betrachtet werden können, sondern dass auch das Big Picture hinter dieser Technologie zu betrachten ist – etwa die Machtkonzentration bei Tech-Unternehmen oder der Ressourcenverbrauch, der mit ihr einhergeht.
Gleichzeitig bleibt die Strategie jedoch an verschiedenen Stellen vage und muss in einem Umsetzungsplan konkretisiert werden. Erst mit dem Umsetzungsplan und den dazugehörigen Massnahmen wird sich zeigen, wie die Ziele erreicht werden können und wie die Prinzipien der Strategie, wie etwa die Nachhaltigkeit, in der Praxis tatsächlich umgesetzt und angewendet werden. Im Folgenden stellen wir kurz vor, was die Verwaltung bei der Umsetzung der Strategie beachten sollte.
Handlungsfeld 1: Kompetenzen aufbauen
Der Aufbau von Kompetenzen ist zentral für einen verantwortungsvollen Einsatz von KI in der Verwaltung. Von Bedeutung ist jedoch, dass dieser Ansatz nicht nur technische Fähigkeiten in den Fokus nimmt, sondern auch ethische, soziale und rechtliche Aspekte einbezieht. Auch strebt die Bundesverwaltung departementsübergreifende Koordinationsstrukturen an. Das ist sehr wichtig, um verwaltungsweites Lernen und Koordination sicherzustellen. Um diese Rolle auszuüben, müssen die entsprechenden Strukturen wie etwa das CNAI – Kompetenznetzwerk für Künstliche Intelligenz aber auch über die entsprechenden Ressourcen verfügen.
Handlungsfeld 2: Vertrauen verdienen
Die Strategie sieht vor, dass «die Verwaltung mit Regeln, Praktiken, Prozessen sowie technischen und nicht technischen Instrumenten [sicherstellt], dass sie KI‑Systeme im Einklang mit ihren Werten und rechtlichen sowie ethischen Anforderungen einsetzt». Sie soll KI-Systeme für das Gemeinwohl einsetzen und Massnahmen gegen mögliche negative Auswirkungen auf die Gesellschaft, Demokratie und Rechtsstaatlichkeit ergreifen. Die Strategie hält zudem unmissverständlich fest, dass Verantwortungen und Rechenschaftspflichten sichergestellt sein müssen, auch durch entsprechende Prozesse. Damit anerkennt sie, dass es entscheidend ist, wie ein Tool in einem bestimmten Kontext eingesetzt wird. Was dabei zu kurz kommt, ist, dass Transparenz und Nachvollziehbarkeit wichtige Bedingungen sind, um diese Verantwortung sicherzustellen – diese Prinzipien werden nicht explizit behandelt. In unseren Empfehlungen für den Einsatz von algorithmischen Systemen in der öffentlichen Verwaltung zeigen wir auf, warum strenge Bedingungen in Bezug auf Transparenz und Nachvollziehbarkeit wichtig sind und warum sie bereits für die Beschaffung und Entwicklung der Systeme entsprechend festgelegt werden müssen. Dazu gehören Massnahmen wie etwa verpflichtende Folgenabschätzungen, öffentliche Verzeichnisse und das Recht für Betroffene, darüber informiert zu werden, wenn ein Algorithmus zur Entscheidungsfindung (voll- oder teilautomatisiert) beigetragen hat. Das jüngste Beispiel rund um ein vom Bundesrat im Geheimen getestetes KI-Modell namens Gov-GPT veranschaulicht, dass es in der Praxis oft an dieser Transparenz scheitert. Wir empfehlen der Bundesverwaltung, Transparenz nicht als Bedrohung, sondern als Chance zu verstehen.
Handlungsfeld 3: Effizienz steigern
Das letzte Handlungsfeld fokussiert auf die Effizienzsteigerung. Während es sicher wichtig ist, darüber nachzudenken, wie mit KI die Effizienz von Abläufen gesteigert werden kann, werden in den Handlungsfeldern andere Aspekte aus der zugrundeliegenden Vision nicht ausdrücklich berücksichtigt. Es bleibt somit im Dunkeln, wie die Bundesverwaltung mit KI nicht nur die Effizienz steigern möchte, sondern auch ihre Vision der verbesserten Qualität und Nutzerzentrierung ihrer Dienstleistungen verwirklichen möchte. Zudem wäre es entscheidend, dass mit dem Einsatz von KI auch noch weitere Ziele verfolgt werden: Etwa, wie sie die staatliche Handlungsfähigkeit stärken, die Nachhaltigkeit verbessern oder die Chancengerechtigkeit erhöhen kann. Bezüglich der Effizienzsteigerung ist es zudem zentral, dass sich die Bundesverwaltung bereits jetzt strategisch überlegt und festlegt, wie mit allfälligen Effizienzgewinnen umgegangen werden soll, das heisst, wer von ihnen profitieren soll, wo gewonnene Ressourcen eingesetzt werden sollen und wie diese verteilt werden. Nur dann kann beurteilt werden, welcher Nutzen tatsächlich mit Effizienzsteigerung verbunden sein könnte – und wem er zugutekommt.
Am 12. Februar 2025 hat der Bundesrat seinen Grundsatzentscheid zur Regulierung von KI getroffen. In seiner Stossrichtung anerkennt der Bundesrat, dass KI zum Schutz der Grundrechte reguliert werden muss und strebt etwa an, die KI-Konvention des Europarates zu ratifizieren. Es ist von entscheidender Bedeutung, dass die verschiedenen Puzzleteile der Governance von KI, wie etwa die Teilstrategie zum Einsatz von KI-Systemen in der Bundesverwaltung oder die Regulierung von Online-Plattformen, verknüpft werden und in einer ganzheitlichen Strategie zusammengefügt werden. Nur so kann die Schweiz über den Tellerrand hinausschauen und Rahmenbedingungen aktiv gestalten, die den grösseren Kontext und die politische Ökonomie hinter KI berücksichtigen.
