KI gerecht gestalten

Dieser Beitrag wurde als Erstes im Helvetas Magazin «Partnerschaft» veröffentlicht

Viele kennen ChatGPT und auch die bildgenerierende Midjourney. Ob Texte, Bilder, Video, Audio oder Softwarecodes: Sogenannt generative KI erzeugt all das. Entscheidend dabei ist, mit welchen Daten und Informationen die Chatbots, die die Texte oder Bilder erzeugen, gefüttert wurden und immer noch werden.

Meist wird KI in Englisch oder westeuropäischen Sprachen trainiert. Anfragen in solchen Sprachen liefern deshalb detailliertere Antworten als Anfragen in indigenen afrikanischen, asiatischen oder südamerikanischen Sprachen. Auch werden so vermehrt westliche Wertvorstellungen reproduziert.

Bei Abfragen zu politischen Themen spucken KI-Chatbots zudem oft falsche oder mangelhafte Informationen aus: Der Bing Chat von Microsoft erfindet Skandale, fingiert Umfragewerte und gibt Wahltermine falsch an. Und der Chatbot Deep-Seek aus China weiss nichts vom Tian’anmen-Massaker 1989 oder den Menschenrechtsverletzungen an den Uigur:innen. Auch wenn die Sprachmodelle hinter solchen Chatbots immer besser werden, kann es schwierig sein, fundierte politische Informationen zu erhalten und sich eine ebensolche Meinung zu bilden.

Beide Tendenzen zeigen: KI-Systeme sind nur so unvoreingenommen wie die Daten und Entwickler:innen, die hinter ihnen stehen. Dr. Anne Mollen von der Universität Münster und Spezialistin für KI und ihre Nachhaltigkeit sagt dazu: «Solche Sprachmodelle sind keine ‹Wahrheitsmaschinen›. Wir müssen die Antworten auf unsere Anfragen immer kritisch hinterfragen.» Auch müssen wir uns bewusst sein, dass hinter solchen Sprachmodellen meist grosse Technologie-Unternehmen stehen. Sie haben viel Geld, ganze Armadas von Entwickler:innen und ein riesiges «Ökosystem» an Produkten, in denen sie KI einbinden können. Kleinere, unabhängige Initiativen haben es ungleich schwerer, mitzuhalten. Das baut die Macht der Tech-Giganten aus und damit auch deren Welt- und Wertevorstellungen.

«Wir müssen die Antworten auf unsere Anfragen immer kritisch hinterfragen..»

Anne Mollen, KI-Expertin & AlgorithmWatch CH Beiratsmitglied

Mollen ist überzeugt, dass diese Machtkonzentration die globale Ungerechtigkeit weiter vorantreibt – gerade angesichts der aktuellen politischen Entwicklungen in den USA und anderswo in der Welt. «Die grossen Tech-Unternehmen haben eine grosse Nähe zur Trump-Regierung, die nicht viel von Teilhabe für alle oder von sozialer und ökologischer Nachhaltigkeit hält», sagt sie mit Verweis auf Elon Musk, Mark Zuckerberg und Co.

Die aktuelle Allianz von Regierung und Technologie in den USA gefährde demokratische Strukturen noch gravierender als zuvor. Umso wichtiger sei es, Alternativen zu stärken – solche, die sich beispielsweise dafür einsetzen, dass die Vielfalt der afrikanischen Sprachen abgedeckt wird, damit auch Menschen im globalen Süden die Chancen von KI nutzen können und die Wertevielfalt abgebildet wird und Stereotypen vermieden werden.

Eine Möglichkeit ist es, Synergien zu nutzen: So genannte Open Source-Initiativen sind für alle Entwickler:innen zugänglich. Eine einmal trainierte KI kann so mehrfach genutzt werden und muss nur noch auf die eigenen Bedürfnisse angepasst werden. Das senkt den Ressourcenverbrauch massiv. Um solche öffentlich zugänglichen KI-Initiativen zu fördern, braucht es laut Mollen eine starke Regulierung, die die Macht der grossen Unternehmen breche und darauf setze, dass KI-Entwickler:innen sich am Gemeinwohl orientieren: «Kleine Tech-Initiativen müssen wirklich selbstbestimmt agieren können, damit sie nicht von grossen Technologie-Unternehmen abhängig werden. Nur so können wir KI mehr in Einklang bringen mit Gerechtigkeit.» Lokale KI Initiativen – und die gibt es – sind eine Chance für den globalen Süden. Doch dafür braucht es entsprechend grosszügige Investitionen.

Bedachter Konsum

Anne Mollen, auch Beirätin von AlgorithmWatch CH, einer NGO, die sich einsetzt, dass Künstliche Intelligenz Gerechtigkeit, Menschenrechte, Demokratie und Nachhaltigkeit stärkt, sieht den Mehrwert von KI. «Zum Beispiel dann, wenn ich den Strombedarf antizipieren und die Einspeisung erneuerbarer Energien in das Stromnetz besser planen kann. Und ich kann Prozesse effizienter machen – beispielsweise in der Fischzucht. Damit wird aber nicht automatisch auch der Konsum von Fisch nachhaltiger, sondern im Zweifel nur die Ausbeutung der Natur effizienter», zeigt sie das Für und Wider auf.

Laut Anne Mollen muss die Gesellschaft sich letztlich fragen, wie viel KI sie konsumieren will. «Wir müssen mehr darüber nachdenken, in welchen Situationen wir KI tatsächlich brauchen und wo ihr Einsatz keinen Sinn macht. Soll sie beispielsweise eingesetzt werden, damit wir noch mehr konsumieren? Oder priorisieren wir die Anwendungen, die uns zu mehr Nachhaltigkeit bringen?»