Prise de Position : Un cadre juridique pour l’intelligence artificielle

AlgorithmWatch Suisse a co-rédigé un document de position sur la réglementation des systèmes d'IA en Suisse. Le document a été rédigé en collaboration avec un consortium interdisciplinaire d'universitaires et est soutenu par le DSI Strategy Lab (Université de Zurich).
Maxime Valcarce | Unsplash

Aujourd'hui, les systèmes de prise de décision algorithmiques (systèmes ADM), souvent perçus et discutés sous le nom d'"intelligence artificielle", sont partout. Ils sont utilisés, par exemple, pour évaluer la solvabilité, pour prédire le risque de récidive de détenus ou pour cibler les publicités sur les médias sociaux. Si le déploiement de ces systèmes promet de grands avantages, il s'accompagne souvent de risques et de défis pour les individus et la société.

Cela a des implications au niveau juridique : Le système juridique doit faire face à ces risques et défis. Alors que l'UE a déjà proposé une réglementation pour les systèmes d'IA ("Législation sur l’intelligence artificielle") et que le Conseil de l'Europe prépare un cadre juridique sur l'IA, le débat est finalement entamé en Suisse.

En collaboration avec des universitaires de diverses disciplines, Anna Maetzener et Matthias Spielkamp (représentant AlgorithmWatch Suisse) ont co-écrit le document de position « A Legal Framework for Artificial Intelligence » (Un cadre juridique pour l'intelligence artificielle).

Le document ne propose pas une réglementation horizontale intégrale des systèmes SMA, mais une combinaison de normes générales et sectorielles. Il nécessite une analyse détaillée, identifiant les lacunes juridiques et les moyens de les combler, et considérant les lois existantes qui doivent être réinterprétées ou réappliquées. Il se concentre sur cinq domaines :

  • Transparence, Reconnaissabilité et Compréhensibilité
  • Discrimination
  • Manipulation
  • Responsabilité
  • Protection et sécurité des données

Pour promouvoir, par exemple, la transparence, le document suggère une obligation d'étiqueter les systèmes ADM ou d'établir des registres publics sur les systèmes ADM déployés dans le secteur public. Une loi générale sur l'égalité de traitement pourrait être un outil important qui permet de lutter contre la discrimination entre les particuliers par l'utilisation de systèmes ADM. Et pour certains déploiements, il ne semble pas y avoir d'autre alternative que d'introduire des interdictions ou des moratoires : l'utilisation de systèmes de reconnaissance faciale ou d'autres types de systèmes biométriques dans l'espace public, qui met en place une surveillance de masse, n'est pas compatible avec les droits fondamentaux. Il en va de même pour les systèmes de score social.

Le document de position a été présenté et discuté lors d'un événement public en novembre 2021, organisé par le DSI Strategy Lab, le Center for Information, Technology, Society (ITSL) de l'Université de Zurich et l'Université de Bâle.

Les vidéos des présentations sont disponibles sur le site du DSI Strategy Lab. La discussion avec Angela Mueller (AlgorithmWatch Switzerland) peut être visionnée ici [en allemand] :