AlgorithmWatch est une organisation de défense des droits humains basée à Zurich et à Berlin. Nous nous engageons pour que les algorithmes et l’Intelligence artificielle (IA) renforcent la justice, la démocratie et la durabilité au lieu de les affaiblir.
Les employeurs utilisent de plus en plus de systèmes algorithmiques sur le lieu de travail. Les membres du personnel ne peuvent toutefois que rarement participer aux décisions sur où et comment ces systèmes sont utilisés. Le cadre légal est actuellement insuffisant pour garantir la participation du personnel en matière de numérisation sur le lieu de travail. Nous montrons sur la base d’un nouvel avis de droit quelles mesures politiques sont nécessaires pour renforcer les droits du personnel.
Lorsque des algorithmes font des pronostics, donnent des recommandations ou prennent des décisions, il y a toujours un risque qu’ils discriminent des personnes. Mais comment les algorithmes discriminent-ils exactement ? Et que devrait faire la politique pour y remédier ? Nous montrons la nécessité d’agir et proposons des solutions pour renforcer la protection contre la discrimination algorithmique.
Les administrations publiques utilisent des systèmes algorithmiques qui ont une influence sur les décisions concernant les individus. Où et pourquoi sont-ils utilisés ? Nous avons posé cette question aux 26 chancelleries cantonales et analysé leurs réponses. Spoiler : de nombreux cantons ne sont pas en mesure de fournir des informations complètes sur les systèmes qu'ils utilisent.
S’informer sur comment voter à l’aide de modèles linguistiques d’IA tel que Bing Chat est une très mauvaise idée. C’est en effet ce que mettent en évidence les résultats d’une analyse menée par AlgorithmWatch et AI Forensics en collaboration avec la RTS et la SRF dans le cadre des élections fédérales en Suisse, ainsi que des élections régionales en Bavière et dans la Hesse. Ces grands modèles de langage apportent à des questions importantes des réponses parfois complètement erronées, en partie mensongères, incomplètes ou obsolètes. Bing Chat, ChatGPT et Co. peuvent ainsi constituer une menace pour la formation de l’opinion publique dans une démocratie.
Près de 80 % des candidat·e·x·s aux élections fédérales sont favorables à une interdiction de la reconnaissance faciale automatisée dans l’espace public. Tous les partis excepté l’UDC rejettent cette forme de surveillance de masse. L’alliance « Protégeons nos droits fondamentaux, non à la reconnaissance faciale » salue le résultat sans équivoque de l’enquête smartvote.
Les algorithmes utilisés pour évaluer la fonction rénale ou prédire une insuffisance cardiaque utilisent la race comme critère central, sans aucune justification scientifique. Les résultats discriminent les patient·es Noir·es.
Lire la suite
Pour détecter les fraudes aux prestations sociales, mesurer les performances au travail, prédire la solvabilité d'une personne ou nous afficher des contenus personnalisés en ligne - les algorithmes et ce que l'on appelle “Intelligence Artificielle" façonnent aujourd'hui notre quotidien. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.
Lire la suite
Les systèmes algorithmiques sont de plus en plus utilisés au travail en Suisse. Conformément au droit en vigueur, les entreprises devraient impliquer leurs employé·e·s dans certaines situations. Cela n’est toutefois pas souvent le cas. Le présent avis de droit montre quels droits ont les employé·e·s et quelles obligations reviennent aux employeurs en matière de participation du personnel. Il présente en outre les lacunes du cadre légal et explique comment elles pourraient être comblées.
Lire la suite
Les administrations publiques utilisent de plus en plus de systèmes algorithmiques pour soutenir ou prendre des décisions. Les autorités ont une responsabilité particulière vis-à-vis des personnes concernées par ces décisions. C'est pourquoi leur utilisation devrait être soumise à des obligations de transparence strictes, par exemple par le biais de registres publics et d’analyses d'impact obligatoires.
Lire la suite
Les systèmes algorithmiques et l’Intelligence Artificielle (IA) sont actuellement sur toutes les lèvres. Pendant que tout le monde parle de ChatGPT, on oublie que l'automatisation est déjà largement étendue en Suisse : de plus en plus de décisions concernant les personnes sont influencées par des algorithmes. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.
Lire la suite