AlgorithmWatch est une organisation de défense des droits humains basée à Zurich et à Berlin. Nous nous engageons pour que les algorithmes et l’Intelligence artificielle (IA) renforcent la justice, la démocratie et la durabilité au lieu de les affaiblir.

Position

18 Novembre 2023

#work

Papier de position

Algorithmes au travail : impliquer les employé·e·s

Les employeurs utilisent de plus en plus de systèmes algorithmiques sur le lieu de travail. Les membres du personnel ne peuvent toutefois que rarement participer aux décisions sur où et comment ces systèmes sont utilisés. Le cadre légal est actuellement insuffisant pour garantir la participation du personnel en matière de numérisation sur le lieu de travail. Nous montrons sur la base d’un nouvel avis de droit quelles mesures politiques sont nécessaires pour renforcer les droits du personnel.

Papier de position

Discrimination par des algorithmes : comment assurer la protection ?

Lorsque des algorithmes font des pronostics, donnent des recommandations ou prennent des décisions, il y a toujours un risque qu’ils discriminent des personnes. Mais comment les algorithmes discriminent-ils exactement ? Et que devrait faire la politique pour y remédier ? Nous montrons la nécessité d’agir et proposons des solutions pour renforcer la protection contre la discrimination algorithmique.

Photo: Ricardo Resende | Unsplash

25 Septembre 2023 (mise à jour: 25 Octobre 2023)

#publicsector

Mis en lumière

Un patchwork algorithmique dans les administrations suisses

Les administrations publiques utilisent des systèmes algorithmiques qui ont une influence sur les décisions concernant les individus. Où et pourquoi sont-ils utilisés ? Nous avons posé cette question aux 26 chancelleries cantonales et analysé leurs réponses. Spoiler : de nombreux cantons ne sont pas en mesure de fournir des informations complètes sur les systèmes qu'ils utilisent.

Nouvelle recherche

Élections 2023 : comment ChatGPT, Bing Chat & Co. pourraient menacer la formation de l’opinion publique

S’informer sur comment voter à l’aide de modèles linguistiques d’IA tel que Bing Chat est une très mauvaise idée. C’est en effet ce que mettent en évidence les résultats d’une analyse menée par AlgorithmWatch et AI Forensics en collaboration avec la RTS et la SRF dans le cadre des élections fédérales en Suisse, ainsi que des élections régionales en Bavière et dans la Hesse. Ces grands modèles de langage apportent à des questions importantes des réponses parfois complètement erronées, en partie mensongères, incomplètes ou obsolètes. Bing Chat, ChatGPT et Co. peuvent ainsi constituer une menace pour la formation de l’opinion publique dans une démocratie.

Khari Slaughter

Communiqué de presse

Questionnaire smartvote : Une forte majorité pour l’interdiction de la reconnaissance faciale

Près de 80 % des candidat·e·x·s aux élections fédérales sont favorables à une interdiction de la reconnaissance faciale automatisée dans l’espace public. Tous les partis excepté l’UDC rejettent cette forme de surveillance de masse. L’alliance « Protégeons nos droits fondamentaux, non à la reconnaissance faciale » salue le résultat sans équivoque de l’enquête smartvote.

Stories

Discrimination par des algorithmes médicaux, 3 Décembre 2020

Algorithmes médicaux : la discrimination des Noir·es est une réalité, en Suisse aussi

Les algorithmes utilisés pour évaluer la fonction rénale ou prédire une insuffisance cardiaque utilisent la race comme critère central, sans aucune justification scientifique. Les résultats discriminent les patient·es Noir·es.

Lire la suite

Projets

Graphique : Beate Autering

12 Juin 2023

Atlas de l’automatisation

Pour détecter les fraudes aux prestations sociales, mesurer les performances au travail, prédire la solvabilité d'une personne ou nous afficher des contenus personnalisés en ligne - les algorithmes et ce que l'on appelle “Intelligence Artificielle" façonnent aujourd'hui notre quotidien. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Lire la suite

Publications

Photo de Elena Mozhvilo sur Unsplash

18 Novembre 2023

Avis de droit

Comment les employé·e·s sont en mesure d’influencer l’utilisation des algorithmes sur leur lieu de travail – une perspective juridique

Les systèmes algorithmiques sont de plus en plus utilisés au travail en Suisse. Conformément au droit en vigueur, les entreprises devraient impliquer leurs employé·e·s dans certaines situations. Cela n’est toutefois pas souvent le cas. Le présent avis de droit montre quels droits ont les employé·e·s et quelles obligations reviennent aux employeurs en matière de participation du personnel. Il présente en outre les lacunes du cadre légal et explique comment elles pourraient être comblées.

Lire la suite

Positions

shawnanggg | Unsplash

27 Novembre 2023

Systèmes de prise de décision automatisée dans le secteur public – quelques recommendations

Les administrations publiques utilisent de plus en plus de systèmes algorithmiques pour soutenir ou prendre des décisions. Les autorités ont une responsabilité particulière vis-à-vis des personnes concernées par ces décisions. C'est pourquoi leur utilisation devrait être soumise à des obligations de transparence strictes, par exemple par le biais de registres publics et d’analyses d'impact obligatoires.

Lire la suite

Blog

Photo de Andrew Neel sur Unsplash

12 Juin 2023

Communiqué de presse

‹IA› et algorithmes en Suisse : éclairage sur cette boîte noire

Les systèmes algorithmiques et l’Intelligence Artificielle (IA) sont actuellement sur toutes les lèvres. Pendant que tout le monde parle de ChatGPT, on oublie que l'automatisation est déjà largement étendue en Suisse : de plus en plus de décisions concernant les personnes sont influencées par des algorithmes. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Lire la suite