En bref

Le Conseil de l’Europe instaure un cadre pour l’Intelligence artificielle

Outre l'UE, le Conseil de l'Europe à Strasbourg réglemente également l’Intelligence artificielle avec la Convention sur l’IA, le premier traité international sur l’IA. Dans ce guide, nous expliquons ce que cela implique, pourquoi c'est important pour nous touxtes et quelles sont les prochaines étapes.

Stanford University Libraries sur Public Domain Review

Angela Müller
Dr. Angela Müller
Directrice d'AlgorithmWatch CH | Responsable politique & de plaidoyer

Les systèmes algorithmiques, souvent désignés par le terme «Intelligence artificielle» (IA), sont aujourd'hui utilisés pour détecter les fraudes aux prestations sociales, surveiller les personnes sur leur lieu de travail ou prédire le risque de récidive des personnes ayant purgé leur peine. Souvent, ces systèmes reposent non seulement sur des bases scientifiques bancales, mais peuvent aussi violer des droits fondamentaux, tels que la non-discrimination, la liberté d'expression, la sphère privée ou l'accès à la justice, saper les principes démocratiques fondamentaux et entrer en conflit avec les principes de l'État de droit en raison de leur manque de transparence et de l'absence de mécanismes de responsabilisation. Dans ce contexte et à la lumière de son mandat, le Conseil de l'Europe a reconnu la nécessité pour les États de régir le développement et l'utilisation des systèmes d'IA. C’est pourquoi ses États membres, dont la Suisse, et certains autres États intéressés, comme les États-Unis ou le Japon, ont élaboré ces dernières années une convention sur l'IA à Strasbourg. Celle-ci doit établir des conditions-cadres pour le développement et l’utilisation de systèmes d’IA. Des organisations de la société civile comme AlgorithmWatch ainsi que des expert·e·s et des entreprises ont également participé en tant qu'organisations observatrices.

Le Conseil de l’Europe est une organisation internationale fondée en 1949 et chargée de préserver les droits humains, la démocratie et l'État de droit en Europe. Il compte actuellement 46 États membres (dont 27 sont aussi membres de l’Union européenne (UE) et a son siège à Strasbourg. Il ne faut pas le confondre avec le Conseil européen et le Conseil de l’Union européenne, qui, contrairement au Conseil de l’Europe, sont tous deux des organes de l’UE. En 1950, le Conseil de l’Europe a rédigé la Convention européenne des droits de l’homme (CEDH), que les États doivent ratifier avant de pouvoir devenir membre du Conseil de l’Europe. Le Conseil de l’Europe héberge la Cour européenne des droits de l’homme qui surveille l’application de la CEDH et promeut les droits humains par une série de mesures supplémentaires, dont des conventions internationales telles que la Convention de Budapest sur le cybercrime ou la Convention 108 sur la protection des données.

Qu’est-ce que cela signifierait? Comment les travaux du Conseil de l’Europe protégeront-ils nos droits, notre démocratie et nos principes de l’État de droit?

Le Conseil de l’Europe a élaboré une convention internationale (‚Convention‘) ou une convention-cadre (‚Framework Convention‘). Il s’agit d’un traité international contraignant pour les États signataires de la convention. Les États sont ainsi libres de signer ou non, mais s’ils le font, ils s’engagent légalement à la respecter. Les États non-membres peuvent également signer la convention; c’est pourquoi d’autres pays, comme les États-Unis et Israël, ont aussi participé aux négociations.

La convention comprend une série d’obligations pour les États qui doivent garantir que les droits humains, la démocratie et l'État de droit sont respectés lors du développement et de l'utilisation des systèmes d'IA. Elle laisse toutefois une grande marge d'interprétation et de mise en œuvre à de nombreux endroits et se réfère plutôt à des principes généraux. Les États signataires doivent appliquer ces règles au niveau national en introduisant les lois et mesures de protection relatives. Les exigences s'appliquent en principe horizontalement, c'est-à-dire à tous les secteurs, mais elles sont moins étendues pour les entreprises que pour les autorités publiques: Les États peuvent décider eux-mêmes des mesures qu'ils prévoient pour les entreprises privées, il ne doit pas s'agir de lois contraignantes. Et dans le domaine de la «sécurité nationale», les autorités sont également exemptées, car la convention ne s'applique pas à ce domaine.

Comme la Convention doit être mise en œuvre au niveau national, les personnes concernées seront protégées contre les effets néfastes des systèmes d'IA par la législation nationale et pourront faire appel au niveau national. La convention stipule également que les États doivent mettre en place un organisme de surveillance national. Il n'est toutefois pas prévu que les particuliers puissent faire valoir des violations de la nouvelle convention sur l'IA directement devant la Cour européenne des droits de l'homme. En effet, son mandat est limité à la Convention européenne des droits de l'homme (CEDH). Les particuliers pourraient cependant bien entendu déposer des plaintes auprès de la Cour pour violation de leurs droits CEDH en rapport avec les systèmes d'IA (à condition qu'ils aient suivi la procédure judiciaire au niveau national, c'est-à-dire que les tribunaux nationaux aient rejeté leur plainte). La Cour tiendrait alors très probablement compte des principes inscrits dans la convention sur l’IA, au moins dans l'interprétation des droits de la CEDH concernés.

Ce qui s’est passé jusqu’ici

Quelles sont les prochaines étapes?

La Convention sur l'IA devrait être adoptée par le Comité des Ministres le 17 mai 2024. Elle sera ensuite ouverte à la signature des États. La signature est d'abord une déclaration d'intention, avant que la convention ne s'applique réellement dans un pays, celui-ci doit la ratifier. Pour cela, les parlements nationaux doivent d'abord donner leur accord et les principales dispositions de la convention doivent être mises en œuvre au niveau national.

Que dit AlgorithmWatch à ce propos?

AlgorithmWatch a participé aux négociations du CAI en tant qu'organisation observatrice active et officielle. Auparavant, nous avons participé au CAHAI en tant qu'observateur officiel en 2020 et 2021. L'objectif de notre participation a toujours été de faire entendre la voix de la société civile dans les négociations et de veiller à ce que la convention sur l’IA soit réellement axée sur le mandat du Conseil de l'Europe : la protection de nos droits fondamentaux, de notre démocratie et de l'État de droit. Après l'adoption de la convention, nous allons désormais nous engager au niveau national, en Suisse et en Allemagne, pour que les États mettent en œuvre les dispositions avec détermination, exhaustivité et clairvoyance, et ne se contentent pas d'une solution minimale.

AlgorithmNews CH - abonne-toi maintenant à notre newsletter !