Deepfake Democracy – Wie Demokratie leben in Zeiten von KI?

KI-generierte Zusammenfassungen, Deepfakes, AI‑Companions und die Meinungsmacht der Tech-Konzerne beeinflussen unsere Demokratie. Im Rahmen der Demokratiewoche des Kantons Zürich hat AlgorithmWatch CH das Podium zu «Deepfake Democracy – Wie Demokratie leben in Zeiten von KI?» organisiert. Unter der Moderation von Yves Bossart diskutierten die Zürcher GLP-Kantonsrätin Chantal Galladé, Republik Co-Chefredakteur Daniel Binswanger und AlgorithmWatch CH Geschäftsleiterin Angela Müller, rege über den Einfluss von KI auf unsere Demokratie.

Auf die Frage, ob KI auch einen positiven Einfluss auf unsere Demokratie haben kann, sehen alle drei Panelist*innen einige Hoffnungsschimmer. So sah Angela Müller die Möglichkeit von alternativen Systemen, die Partizipationsmöglichkeiten schaffen, ohne von der Marktmacht der grossen Tech-Anbieter abhängig zu sein. Chantal Galladé sprach von ihren Erfahrungen als Berufsschullehrerin und hob hervor, dass etwa ein Lernender mit einer starken Lese- und Rechtschreibschwäche mithilfe von KI erstmals eine gewisse Selbstermächtigung erlebte. Daniel Binswanger zeigte das immense Potenzial für journalistische Recherchearbeiten auf.

Grosse Einigkeit herrschte bei der Ansicht, dass kritisches Denken eine der wichtigsten Fähigkeiten ist, welche wir als Gesellschaft stärken müssen, um die Demokratie auch in Zeiten von KI zu pflegen. Chantal Galladé erinnerte daran, dass wir generell die Zukunfts-Kompetenzen, Kreativität, kritisches Denken, Kommunikation und Zusammenarbeit, stärken sollten.

Daniel Binswanger wies darauf hin, dass auch strukturelle und institutionelle Hürden den Zugang zu Informationen einschränken. Einerseits weil der Zugang zu Informationen stetig privatisiert werde, andererseits weil bei KI-Antworten ohne Quellenangaben keine Quellenprüfung möglich sei. Nur das kritische Denken zu schärfen, reiche demnach nicht.

Laut Angela Müller sollte uns dabei auch die Konzentration von Meinungs- und Marktmacht von Tech-Konzernen beschäftigen, denn diese bringt für uns als demokratische Gesellschaften sicherlich grosse Herausforderungen mit sich. Dabei sei das Gefährliche weniger die Technologie als solche, sondern dass wir die Kontrolle über die dahinterstehenden Unternehmen verlieren.

Auf die Frage, ob die Schweiz eigene Systeme entwickeln soll, fand Chantal Galladé dies sei insbesondere für Schulen relevant, merkte jedoch an, dass es eventuell bereits zu spät sein könnte. Daniel Binswanger kommentierte, dass sich langsam ein Bewusstsein für eine digitale Souveränität entwickle, allerdings brauche es noch viel politische Aufklärung.

Ebenfalls kam das Panel auf die sehr aktuellen Debatten rund um die Warnungen vor dem Kontrollverlust über KI zu sprechen, die von Tech-Unternehmern und -Entwickler*innen derzeit beschworen werden. Angela Müller hob hervor, dass wir solche Meldungen immer auch im Lichte einer PR-Strategie der Tech-Industrie betrachten müssen und die Forderung nach Regulierung eine Möglichkeit sein kann, die Konkurrenz auszubremsen. Statt darüber zu sprechen, ob wir über KI die Kontrolle verloren haben, sollten wir uns viel eher bewusst machen, dass diejenigen, die dieses Produkt entwickeln und verbreiten, ihre Verantwortung nicht wahrnehmen – wie wir das auch bei anderen Produkten tun. Und als Gesellschaft müssen wir uns fragen, wie wir damit umgehen, dass wir über diese enorm mächtigen Konzerne keine Kontrolle (mehr) haben.

Daniel Binswanger unterstrich, dass es bei den Tech-Firmen immer gleich um die Apokalypse geht. Der geopolitische KI‑Wettlauf zwischen China und den USA sowie zukünftige militärische KI‑Anwendungen besorgen ihn. Für Chantal Galladé geht die Gefahr dagegen auch davon aus, dass Jugendliche bisweilen vergessen, dass hinter KI kein reales Gegenüber steht. Wir müssten als Gesellschaft den Umgang mit KI trainieren. Gegen Ende merkte eine Person aus dem Publikum an, dass wir nicht bloss über kritisches Denken und weitere Massnahmen diskutieren sollten, sondern darüber, welche Werte wir eigentlich vertreten.

Die Podiumsdiskussion verdeutlichte, warum wir zum Wohle unserer Demokratie Tech-Unternehmen in die Verantwortung nehmen müssen, und zeigt die Bedeutung von Medienkompetenz in Zeiten von KI auf. Letztlich sollten wir uns als Gesellschaft immer fragen: Welche KI wollen wir? Denn wir sollten KI an unseren gesellschaftlichen Bedürfnissen und demokratischen Anforderungen ausrichten, statt an reiner technischer Machbarkeit und den Interessen von Big Tech.

Wir bedanken uns bei allen, die dieses spannende Podium ermöglicht haben!