Communiqué de presse
‹IA› et algorithmes en Suisse : éclairage sur cette boîte noire
Les systèmes algorithmiques et l’Intelligence Artificielle (IA) sont actuellement sur toutes les lèvres. Pendant que tout le monde parle de ChatGPT, on oublie que l'automatisation est déjà largement étendue en Suisse : de plus en plus de décisions concernant les personnes sont influencées par des algorithmes. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.
Photo de Andrew Neel sur Unsplash
Qu'il s'agisse de chatbots utilisés par les autorités sociales, d'algorithmes de «scoring» qui décident de la solvabilité, d'outils de «police prédictive» qui tentent de prédire les crimes, ou de systèmes de profilage qui nous présentent des publicités personnalisées : les systèmes algorithmiques ou basés sur l'IA façonnent aujourd'hui les humains et la société. Ils sont également utilisés pour prédire, recommander ou même prendre des décisions concernant des personnes. La directrice d'AlgorithmWatch CH, Angela Müller, déclare à ce sujet : «les systèmes algorithmiques ont bien sûr le potentiel d'augmenter notre efficacité et notre productivité. Mais ils peuvent aussi conduire à la discrimination, influencer la formation de l'opinion publique et renforcer les injustices existantes. Et tout cela sans que nous en soyons vraiment conscient·e·s». Où, par qui et dans quel but les algorithmes sont-ils déjà utilisés? Ces questions restent aujourd'hui encore largement obscures. Il est urgent de mener un débat de société basé sur des faits.
C'est pourquoi AlgorithmWatch CH lance l'Atlas de l'automatisation afin de mesurer l'automatisation de la Suisse. Il s'agit d'une base de données en ligne qui répertorie une sélection de systèmes algorithmiques utilisés en Suisse pour prédire, recommander ou prendre des décisions, ou pour générer des contenus ayant un impact sur les personnes - que ce soit par des organismes publics ou des fournisseurs privés.
«Pour pouvoir discuter en tant que société sur la base de faits, nous avons besoin de lumière dans la boîte noire. Alors que l'IA est sur toutes les lèvres, qu'elle est présentée avec zèle comme la solution à tous les problèmes et que ses effets négatifs bien réels sont trop souvent ignorés, il est plus important que jamais de savoir quand et où nous avons réellement affaire à des algorithmes. Aujourd'hui, nous nous appuyons en grande partie sur des anecdotes, des hypothèses et des spéculations - la base factuelle fait défaut. Avec l'Atlas de l'automatisation, nous voulons contribuer à changer cela», explique Angela Müller.
L'objectif de l'Atlas de l'automatisation n'est pas de faire un relevé exhaustif. Il s'agit plutôt de montrer et de donner un aperçu des domaines dans lesquels des algorithmes sont utilisés et de la manière dont cela peut influencer notre quotidien, mais aussi nos droits et notre société – qu'il s'agisse d'un chatbot a priori inoffensif ou d'un logiciel de reconnaissance faciale biométrique.
Les informations de la base de données sont basées sur des recherches effectuées par AlgorithmWatch CH et sur des demandes adressées aux administrations publiques. Parallèlement au lancement de la base de données, des interventions politiques sont déposées dans différents cantons afin d'obtenir, avec le soutien des politiques, des informations supplémentaires sur les algorithmes utilisés par l'administration. Les résultats seront intégrés continuellement dans la base de données. «Les ressources que nous avons investies dans le développement de l'Atlas de l'automatisation illustrent le cœur du problème : les algorithmes ont le potentiel d'influencer nos droits fondamentaux et notre société - mais les informations sur le lieu et la manière dont ils le font ne sont pas facilement accessibles aux personnes concernées, et doivent faire l'objet d'une recherche coûteuse et menée par la société civile», explique Tobias Urech, chargé de campagne chez AlgorithmWatch CH et responsable du projet. «Sans cette transparence, il est quasiment impossible pour les personnes concernées de se défendre», poursuit Tobias Urech.
L'Atlas de l'automatisation s'adresse aux chercheuses et chercheurs, aux journalistes et au grand public. Le répertoire se veut donc un prélude à la promotion de la transparence, première étape vers une utilisation responsable des algorithmes et de l'IA.