Atlas de l’automatisation

Pour détecter les fraudes aux prestations sociales, mesurer les performances au travail, prédire la solvabilité d'une personne ou nous afficher des contenus personnalisés en ligne - les algorithmes et ce que l'on appelle “Intelligence Artificielle" façonnent aujourd'hui notre quotidien. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.
Graphique : Beate Autering

Où en est l'automatisation en Suisse ? La réponse à cette question était jusqu’ici restée dans l'ombre : où, comment et par qui les algorithmes ou ce que l'on appelle «Intelligence Artificielle» sont utilisés aujourd'hui, est souvent un mystère. Pourtant, ces systèmes peuvent être utilisés pour influencer des décisions concernant des personnes. Ils nous concernent donc toustes – et potentiellement aussi nos droits fondamentaux, notre société et notre démocratie. Et tout cela sans que nous en soyons vraiment conscient·e·s.

Un débat de société s'impose donc de toute urgence. Aujourd'hui, nous nous appuyons en grande partie sur des anecdotes, des hypothèses et des spéculations - la base factuelle fait défaut. AlgorithmWatch CH agit maintenant face à cela : nous commençons par mesurer l'automatisation en Suisse.

Dans l'Atlas de l'automatisation, nous répertorions une sélection de systèmes algorithmiques utilisés en Suisse pour prédire, recommander ou prendre des décisions, ou pour générer des contenus ayant un impact sur les personnes – que ce soit par des organismes publics ou des fournisseurs privés. L'objectif de l'Atlas de l'automatisation n'est toutefois pas de réaliser un relevé exhaustif. Il s'agit plutôt de montrer par l'exemple et de donner un aperçu des domaines où les algorithmes sont utilisés et de la manière dont cela peut influencer notre quotidien, mais aussi nos droits et notre société.

Avec l'Atlas de l'automatisation, nous contribuons à instaurer la transparence dont nous avons urgemment besoin. Sur sa base, le public doit pouvoir comprendre l'influence des systèmes algorithmiques sur notre vie à toustes. Les informations de la base de données reposent sur des recherches effectuées par AlgorithmWatch CH, sur des demandes adressées aux administrations publiques et sur des interventions politiques déposées en même temps que le lancement de la base de données. Les résultats sont intégrés en permanence dans la base de données.

L'Atlas de l'automatisation illustre ainsi en même temps le cœur du problème : les algorithmes ont le potentiel d'influencer nos droits fondamentaux et notre société – mais les informations sur le lieu et la manière dont ils le font ne sont pas facilement accessibles aux personnes concernées, mais doivent faire l'objet de recherches coûteuses et menées par la société civile. Pour remédier à cette situation, nous demandons l’introduction de registres pour référencer les systèmes algorithmiques utilisés dans les processus décisionnels, en particulier lorsqu’ils sont utilisés par l'administration publique. Sans cette transparence, il est quasiment impossible pour les personnes concernées de se défendre.

L’atlas peut être filtré en fonction du canton d'utilisation, des entités utilisatrices, des groupes concernés et de nombreux autres critères. Il se concentre sur les systèmes algorithmiques qui sont utilisés pour automatiser partiellement ou entièrement les décisions concernant les êtres humains. Les systèmes d'«IA» qui contrôlent les chaînes de livraison dans les usines, font des prévisions météorologiques ou sont utilisés dans la recherche ne sont donc pas inclus dans l'atlas.

L'Atlas de l'automatisation s'adresse aux chercheuses et chercheurs, aux journalistes et au grand public. Tout comme les systèmes algorithmiques utilisés, l'atlas est toujours “work-in-progress” et n'est jamais achevé. Ainsi, de nouveaux systèmes sont constamment ajoutés et certains projets pilotes disparaissent. Si tu remarques un nouveau système qui relève de notre domaine d'intérêt et qui n'est pas encore répertorié dans l'atlas, nous serions ravi·e·s que tu nous le signales : atlas@algorithmwatch.ch.