#ai (7 Ergebnisse)

Medienmitteilung

Studie: KI-basierte Microsoft-Suche vor Schweizer Wahlen – gefährlich unzuverlässig

Wer sich vor Wahlen, wie beispielsweise den Bundesratswahlen, bei Bing Chat informiert, muss mit irreführenden, falschen und einseitigen Antworten rechnen. Die Microsoft-Suchmaschine mit integrierter Chatbot-Funktion erfindet Skandale und denkt sich bisweilen die Zusammensetzung des Bundesrates neu aus. Das zeigt eine Studie von AlgorithmWatch und AI Forensics zu den Wahlen in der Schweiz, Bayern und Hessen im Oktober 2023, deren Schlussbericht nun vorliegt. Microsoft scheint keine Lösung für das Problem zu haben.

Schlussbericht: Untersuchung zu Microsoft Bing Chat

KI-Chatbot liefert falsche Antworten auf Fragen zu demokratischen Wahlen

Bing Chat, der in Microsofts Suchmaschine Bing integrierte KI-Chatbot, erfindet Skandale, denkt sich Umfragewerte aus und gibt den Wahltermin falsch an. Microsoft scheint nicht in der Lage oder nicht willens zu sein, das Problem zu beheben. Das zeigt eine Studie von AlgorithmWatch und AI Forensics, deren Schlussbericht nun vorliegt. Darin haben wir das Antwortverhalten des Chatbots zu den Wahlen in der Schweiz, Bayern und Hessen im Oktober 2023 untersucht.

Zwischenergebnisse: Untersuchung zu Microsoft Bing Chat

Grosse KI-Sprachmodelle im Kontext von Wahlen

Wie zuverlässig beantwortet der Chatbot der Microsoft-Suchmaschine Bing Fragen zu den anstehenden Wahlen in der Schweiz, Bayern und Hessen? Unsere Forschung belegt: Das dahinter stehende grosse Sprachmodell GPT-4 erzeugt und verbreitet ausgedachte und irreführende Informationen. Das könnte zur Gefahr für die Demokratie werden.

Kurz erklärt

Europarat schafft Rahmenbedingungen für Künstliche Intelligenz

Nebst der EU reguliert auch der Europarat in Strassburg Künstliche Intelligenz – mit der KI-Konvention, dem ersten internationalen Vertrag zu KI. In diesem Leitfaden erklären wir, was dahinter steckt, warum das für uns alle wichtig ist und was die nächsten Schritte sind.

Gemeinsame Erklärung im Vorfeld der Verhandlungen über einen Rechtsrahmen zu KI im Europarat

Heute nimmt das Committee on Artificial Intelligence (CAI) des Europarats die Verhandlungen zu einem neuen Rechtsrahmen für Systeme der Künstlichen Intelligenz (KI) auf. In einer gemeinsamen Erklärung fordern AlgorithmWatch und andere zivilgesellschaftliche Organisationen die Mitgliedstaaten auf, einen Rechtsrahmen für KI zu schaffen, der sich am Mandat des Europarates orientiert: dem Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit.

Positionspapier: Ein Rechtsrahmen für Künstliche Intelligenz

AlgorithmWatch Schweiz hat ein Positionspapier zur Regulierung von KI-Systemen in der Schweiz mitverfasst. Dieses wurde gemeinsam mit Wissenschaftler·innen verschiedener Disziplinen verfasst und vom DSI Strategy Lab der Universität Zürich unterstützt.