Publications

Dossier thématique

Algorithmes, IA et démocratie

Les réseaux sociaux, les moteurs de recherche et les systèmes d'IA générative déterminent de plus en plus les contenus qui nous parviennent. Quelles en sont les implications pour le débat public et la formation de l'opinion démocratique? Et de quoi avons-nous besoin pour garantir un débat constructif, positif pour les individus, bénéfique pour la démocratie et équitable pour toutes et tous? Dans ce dossier thématique, nous donnons un aperçu du sujet.

Explication

Automatiquement rejeté·e? Quand l’IA discrimine dans les processus de recrutement

Les systèmes d’aide au recrutement basés sur l’IA permettent de présélectionner et d’évaluer les candidatures ou de recommander des candidat·e·s. Ces systèmes algorithmiques peuvent faire gagner du temps aux responsables RH, mais présentent également un risque de discrimination systémique, souvent difficile à identifier.

Article

Réseaux sociaux et IA: comment protéger les enfants et les jeunes?

À l'occasion de la Journée internationale des droits de l'enfant, nous mettons en lumière les débats actuels sur les effects des réseaux sociaux et de l'intelligence artificielle sur les enfants et les jeunes. Nous montrons pourquoi le débat ne devrait pas se limiter à la question d'une interdiction des réseaux sociaux et comment mieux protéger les enfants et les jeunes.

Communiqué de presse

Boom de l’IA: la population suisse préoccupée par la consommation d’électricité et d’eau des centres de données

L’emballement pour l’intelligence artificielle fait grimper la consommation d’électricité et d’eau des centres de données. La population suisse s’en inquiète de plus en plus. C’est ce que révèle un sondage commandé par AlgorithmWatch CH en collaboration avec d’autres organisations dans cinq pays européens. Les résultats publiés aujourd’hui sont sans équivoque.

Dossier thématique

IA et durabilité: comment concilier les deux?

Les géants de la tech souhaitent commercialiser l’intelligence artificielle (IA) comme une solution à la crise climatique et déploient des modèles d’IA toujours plus imposants. Pendant ce temps, la consommation énergétique de ces modèles a atteint des proportions toujours plus importantes. Comment l’IA s’accorde-t-elle avec la durabilité et le respect des limites planétaires ? Nous proposons un aperçu du sujet.

Explication

Police algorithmique: présomption de culpabilité anticipée

La police algorithmique consiste à prédire de manière prétendument algorithmique, sur la base de données criminelles historiques, qui commettra quelles infractions à l’avenir. Nous expliquons ici pourquoi une telle pratique s’avère souvent discriminatoire, juridiquement discutable et loin d’être aussi efficace qu’on le prétend.

Publication

Utiliser l’IA de manière responsable: notre outil d’analyse d’impact

Les systèmes algorithmiques et basés sur l’IA peuvent avoir des répercussions éthiques sur les personnes. Quiconque les utilise endosse donc une responsabilité particulière. L’outil d’analyse d’impact développé par AlgorithmWatch aide à assumer cette responsabilité et donne les moyens de le faire.

Explication

Montre ton visage et l’IA dira qui tu es

Les technologies de reconnaissance biométrique permettent d’identifier et de surveiller des personnes. Elles sont censées renforcer la sécurité, mais elles discriminent, menacent les droits fondamentaux et peuvent même conduire à de la surveillance de masse.

Explication

L’algorithme comme patron: comment l’IA transforme le monde du travail

Les systèmes de décision automatisée pilotent notre travail, aussi bien dans les entreprises que sur les plateformes de mise en relation. Grâce à eux, les entreprises espèrent accroître leur efficacité, mais ces procédés peuvent aussi intensifier de manière démesurée la surveillance des employé·e·s. En outre, ils camouflent souvent l’exploitation d'êtres humains et de l'environnement.

Explication

L’administration algorithmique: décisions automatisées dans le secteur public

L'automatisation de l’administration publique promet plus d’efficacité. Elle peut toutefois désavantager de nombreuses personnes, comme en témoignent des exemples à travers toute l’Europe. Dans ce guide, nous expliquons pourquoi la mise en œuvre de systèmes algorithmiques au sein des administrations publiques se révèle particulièrement délicate et comment les risques pourraient être identifiés à un stade précoce.

Explication

L’Intelligence artificielle durable: une contradiction en soi?

L’Intelligence artificielle (IA) constitue-t-elle un moyen de lutte contre la crise climatique ou, au contraire, une atteinte à l’environnement encore plus préjudiciable que les vols en avion? Nous exposons ici la quantité d’énergie que les systèmes algorithmiques consomment réellement, la raison pour laquelle nous devons disposer de mesures plus précises et la manière dont les IA peuvent devenir plus durables.

Dossier thématique

Qu’est ce que la discrimination algorithmique?

Discrimination par les algorithmes et l'Intelligence artificielle (IA): nous donnons un aperçu du sujet.

Explication

Comment et pourquoi les algorithmes discriminent

Les systèmes de prise de décision automatisée peuvent être discriminatoires. Nous expliquons quelles en sont les causes, ce qui peut se passer dans de tels cas et pourquoi les lois existantes ne protègent pas suffisamment contre la discrimination algorithmique.

Série d'exemples de cas

Discrimination 2.0: ces algorithmes qui discriminent

A l'aide d'exemples concrets, nous mettons en lumière la diversité des cas de discrimination algorithmique.

Mesures de qualification

Ce que les syndicats doivent savoir à propos des algorithmes sur le lieu de travail

En Suisse, les entreprises utilisent de plus en plus de systèmes algorithmiques sur le lieu de travail. La participation des travailleuses et travailleurs est un facteur important pour que ce changement technologique puisse avoir un effet positif sur les employé·e·s. Cette publication résume ce que les syndicats doivent savoir à propos des systèmes algorithmiques utilisés sur le lieu de travail et comment les syndicats peuvent permettre la participation des employé·e·s.

Rapport final : recherche sur Microsoft Bing Chat

Le chatbot d’IA fournit des réponses erronées aux questions sur les élections démocratiques

Bing Chat, le chatbot d’IA intégré au moteur de recherche Bing de Microsoft, invente des scandales, imagine des valeurs de sondage et indique de fausses dates d'élections. Microsoft ne semble pas être en mesure ou ne pas souhaiter remédier à ce problème. C'est ce que montre une étude menée par AlgorithmWatch et AI Forensics, dont le rapport final est désormais disponible. Nous y avons analysé le comportement de réponse du chatbot pour les élections en Suisse, en Bavière et en Hesse en octobre 2023.

Avis de droit

Comment les employé·e·s sont en mesure d’influencer l’utilisation des algorithmes sur leur lieu de travail – une perspective juridique

Les systèmes algorithmiques sont de plus en plus utilisés au travail en Suisse. Conformément au droit en vigueur, les entreprises devraient impliquer leurs employé·e·s dans certaines situations. Cela n’est toutefois pas souvent le cas. Le présent avis de droit montre quels droits ont les employé·e·s et quelles obligations reviennent aux employeurs en matière de participation du personnel. Il présente en outre les lacunes du cadre légal et explique comment elles pourraient être comblées.

Résultats intermédiaires : recherche sur Microsoft Bing Chat

Grands modèles linguistiques d’IA dans le contexte des élections

Avec quelle fiabilité le chatbot du moteur de recherche Bing de Microsoft répond-il aux questions sur les élections à venir en Suisse, en Bavière et en Hesse? Notre recherche le montre: le grand modèle linguistique GPT-4 qui le sous-tend génère et diffuse des informations inventées et trompeuses. Cela pourrait devenir un problème pour la démocratie.

Analyse de base

Les systèmes algorithmiques sur le lieu de travail – un aperçu

Les systèmes algorithmiques sur le lieu de travail peuvent avoir un impact massif sur les employé·e·s, qui devraient donc avoir leur mot à dire sur l'utilisation de ces systèmes afin de préserver leurs droits fondamentaux. Notre bref rapport montre comment les employeurs en Suisse gèrent leur responsabilité.

En bref

Le Conseil de l’Europe instaure un cadre pour l’Intelligence artificielle

Outre l'UE, le Conseil de l'Europe à Strasbourg réglemente également l’Intelligence artificielle avec la Convention sur l’IA, le premier traité international sur l’IA. Dans ce guide, nous expliquons ce que cela implique, pourquoi c'est important pour nous touxtes et quelles sont les prochaines étapes.

La reconnaissance biométrique dans les lieux publics – une menace pour les droits humains

Dans les aéroports, les stades de foot ou dans le cadre de poursuite pénale, la reconnaissance faciale et d’autres systèmes de reconnaissance biométrique sont de plus en plus employés en Suisse. Lorsqu’ils sont utilisés à des fins d’identification dans les lieux accessibles au public, ces systèmes sont incompatibles avec les droits fondamentaux et les droits humains, notamment le droit à la sphère privée, la liberté d’expression et de rassemblement, et l’interdiction de discriminer.

Contribution d’opinion dans Le Temps: Pourquoi la liberté numérique a besoin de nous tous, de manière analogique

Pour Anna Mätzener, d’AlgorithmWatch Suisse, la société civile doit s’investir pour obtenir plus de transparence dans l’usage des algorithmes et garantir une liberté numérique qui n’est que le reflet de nos libertés dans le monde réel.

Les algorithmes dans le discours public suisse

AlgorithmWatch Suisse a commandé une étude sur la perception du public des systèmes ADM. L'étude a été réalisée dans le cadre d'un cours Capstone de l'Institut de sciences politiques de l'Université de Zurich.

Les algorithmes, reflets de la société

Comment les structures de pouvoir et les inégalités infiltrent les processus de décision automatisés: le point sur la question.

Voilà l’édition suisse du rapport Automating Society 2020