L’UE réglemente l’intelligence artificielle. Quelles conséquences pour la Suisse ?

La semaine dernière, la Commission européenne a présenté son projet de règlement sur les systèmes utilisant l'intelligence artificielle (IA). Malgré des lacunes et des failles, le projet est un pas dans la bonne direction. Il pourrait faire en sorte que l'utilisation de l’IA favorise l’autonomie individuelle et l’intérêt général, plutôt que de les restreindre.

29 Avril 2021

#ia #suisse #ue

Vous pouvez lire ici l’opinion détaillée d’AlgorithmWatch sur le projet de régulation (en anglais).

Effet extraterritorial

Tout d'abord, ce règlement sur l'IA aura des effets directs, extraterritoriaux, dans les pays tiers. Les règles de l’Union seront applicable si un système est utilisé dans l'Union ou si ses « résultats » (output) sont utilisés dans l'UE. En d'autres termes, les entreprises et les opérateurs de systèmes utilisant l’IA basés en Suisse seront soumis à la réglementation même s'ils n'ont ni siège, ni filiale sur le territoire de l'UE, et qu'ils proposent ou non leurs services à titre onéreux - et ce dans deux cas :

  • Premièrement, lorsqu'ils mettent leurs systèmes à la disposition des entreprises, des organismes publics ou des citoyens de l'UE. La plupart des services suisses sont sans doute dans ce cas. Une entreprise qui développe des systèmes d'IA dans le secteur de la santé en Suisse, par exemple, met probablement ses outils à disposition des hôpitaux ou des instituts de recherche de l'UE.
  • Deuxièmement, lorsqu'une prévision, une recommandation ou une décision prise en Suisse par un système utilisant l'IA est « utilisée » dans l'UE. C’est le cas par exemple lorsque l'administration fédérale suisse utilise un chatbot pour traiter les demandes de citoyens de l'UE concernant leurs permis de séjour et de travail.

Avant d'entrer en vigueur, le projet de règlement doit être approuvé par les États membres et le Parlement européen. Il est cependant déjà clair que ce règlement aura un effet non seulement au sein de l'UE, mais également en dehors de celle-ci. Quelles seront les conséquences pour la Suisse ?

Le règlement cherche en particulier à empêcher les organisations basées dans l'UE d'externaliser des systèmes à haut risque à des entreprises basées en dehors de l’UE, puisque les risques pour les citoyen·nes de l’Union resteraient inchangés.

On peut supposer que cette extraterritorialité restera dans la version finale du règlement. Réglementer de manière exhaustive et faire en sorte que les pays tiers adoptent les mêmes règles est une tendance de fond de la Commission, en particulier dans le domaine de la politique numérique.

Effets secondaires

Le règlement sur l'IA aura des effets secondaires importants dans les pays tiers. Cela ne touchera pas que les fournisseurs de services, mais aussi les utilisateur·trices finaux. Comme ce fut le cas après l'introduction du règlement général sur la protection des données (RGPD), de nombreuses entreprises suisse décideront, pour des raisons d'efficacité et de simplicité, de concevoir leurs systèmes conformément aux règles de l'UE. De nombreux systèmes d'IA sont disponibles dans plusieurs pays. Il serait extrêmement long, voire impossible, pour les entreprises de faire la différence entre les utilisateurs finaux à l'intérieur ou à l'extérieur de l'UE. Qu'il s'agisse d'une entreprise « Big Tech » basée aux États-Unis ou d'une start-up suisse, si un système utilisant l'IA est proposé sans limitations géographiques, les règles de l'UE devront être respectées.

Comme ce fut le cas pour le RGPD, la population suisse bénéficiera indirectement de la protection offerte par le règlement contre les systèmes d'IA à hauts risques. Même si le projet de la Commission européenne présente, dans sa version actuelle, de nombreuses lacunes et n’offre pas encore une protection suffisante contre les risques que l'utilisation des systèmes automatisés peut entraîner, il n’existe pas de réglementation correspondante en Suisse. Le règlement peut (de facto et dans une certaine mesure) offrir une protection supplémentaire contre les atteintes aux droits fondamentaux dont pourraient être responsables les systèmes utilisant l’IA.

Un standard pour le monde et un débat politique pour la Suisse

Avec sa stratégie d’une Europe « adaptée à l'ère numérique », dont le règlement sur l’IA fait partie, l'UE agit encore une fois pour que sa politique numérique reste adaptée aux valeurs fondamentales de l'Union. Malgré les lacunes du texte, en reconnaissant l’importance de la dignité humaine et de l'autonomie, les principes démocratiques et la protection des droits fondamentaux, l'UE se distancie clairement de l’approche « laissez-faire » en vigueur ailleurs. Comme pour le RGPD, le règlement sur l'IA servira d’exemple pour les législateurs d’autres pays, et façonnera le débat sur l'utilisation de l'IA dans le monde. Les pays tiers feront sans doute évoluer leur législation pour la rapprocher de celle de l'UE - notamment pour garantir l'innovation, la compétitivité et l'accès au marché de l'UE pour leurs entreprises.

Comme c'est souvent le cas, cette dynamique sera particulièrement forte dans les pays qui sont étroitement liés à l'UE, et dont la Suisse fait partie. Jusqu'à présent, ni le Conseil fédéral ni le Parlement n'ont fait d'efforts visibles pour légiférer de manière complète (c'est-à-dire qui ne se limite pas à un secteur en particulier) sur les systèmes d'IA en Suisse. Conformément à la stratégie de politique extérieure numérique, la Suisse s'est engagée à poursuivre une « régulation modérée » dans l’espace numérique au niveau international. La « Stratégie Suisse numérique » adoptée en 2019 vise à optimiser « les conditions pour une utilisation transparente et responsable de l'intelligence artificielle ». Les lignes directrices pour l'utilisation de l'IA dans l'administration fédérale placent « l’être humain au cœur des préoccupations ». Malgré ces textes, il n’apparaît pas qu'il existe des plans pour légiférer sur le sujet au niveau national.

Désormais, la Suisse devra comprendre ce que le règlement européen signifie pour elle. On peut espérer que cette étape du processus législatif de l’UE donne à la Suisse une impulsion pour lancer le débat, ô combien urgent, sur l’utilisation de systèmes de prise de décision automatisée. Ce débat à lui seul ne résoudra pas les nombreux défis liés à l'utilisation des systèmes automatisés, mais il est un préalable indispensable pour que l’usage des systèmes d’IA soit compréhensible, responsable et qu’il serve l'intérêt général.

Dr. des. Angela Müller

Senior Policy & Advocacy Manager

Photo: David Bächtold
Angela Müller est Senior Policy & Advocacy Manager chez AlgorithmWatch CH et Team Lead Policy & Advocacy chez AlgorithmWatch.
Elle a obtenu un doctorat en droit (Dr.des.) et un M.A. de philosophie politique et économique. Elle a écrit sa thèse de doctorat sur l’application extraterritoriale des droits de l’homme, abordant entre autres la question des nouvelles technologies, à l’Université de Zurich, où elle est aussi membre de Digital Society Initiative. Elle était Visiting Researcher à Columbia University, New York, et Hebrew University, Jerusalem. Angela Müller était aussi directrice de projet pour le think tank foraus, project manager pour une platforme d’innovation universitaire et stagiaire académique au Département des affaires étrangères DFAE. Par ailleurs, elle est Vice-Présidente de l’Association Suisse-ONU.