Le Conseil de l’Europe instaure un cadre pour l’Intelligence artificielle

Les systèmes algorithmiques, souvent désignés par le terme «Intelligence artificielle» (IA), sont aujourd'hui utilisés pour détecter les fraudes aux prestations sociales, surveiller les personnes sur leur lieu de travail ou prédire le risque de récidive des personnes ayant purgé leur peine. Souvent, ces systèmes reposent non seulement sur des bases scientifiques bancales, mais peuvent aussi violer des droits fondamentaux, tels que la non-discrimination, la liberté d'expression, la sphère privée ou l'accès à la justice, saper les principes démocratiques fondamentaux et entrer en conflit avec les principes de l'État de droit en raison de leur manque de transparence et de l'absence de mécanismes de responsabilisation. Dans ce contexte et à la lumière de son mandat, le Conseil de l'Europe a reconnu la nécessité pour les États de régir le développement et l'utilisation des systèmes d'IA. C’est pourquoi ses États membres, dont la Suisse, et certains autres États intéressés, comme les États-Unis ou le Japon, ont élaboré ces dernières années une convention sur l'IA à Strasbourg. Celle-ci doit établir des conditions-cadres pour le développement et l’utilisation de systèmes d’IA. Des organisations de la société civile comme AlgorithmWatch ainsi que des expert·e·s et des entreprises ont également participé en tant qu'organisations observatrices.

Le Conseil de l’Europe est une organisation internationale fondée en 1949 et chargée de préserver les droits humains, la démocratie et l'État de droit en Europe. Il compte actuellement 46 États membres (dont 27 sont aussi membres de l’Union européenne (UE) et a son siège à Strasbourg. Il ne faut pas le confondre avec le Conseil européen et le Conseil de l’Union européenne, qui, contrairement au Conseil de l’Europe, sont tous deux des organes de l’UE. En 1950, le Conseil de l’Europe a rédigé la Convention européenne des droits de l’homme (CEDH), que les États doivent ratifier avant de pouvoir devenir membre du Conseil de l’Europe. Le Conseil de l’Europe héberge la Cour européenne des droits de l’homme qui surveille l’application de la CEDH et promeut les droits humains par une série de mesures supplémentaires, dont des conventions internationales telles que la Convention de Budapest sur le cybercrime ou la Convention 108 sur la protection des données.

Qu’est-ce que cela signifierait? Comment les travaux du Conseil de l’Europe protégeront-ils nos droits, notre démocratie et nos principes de l’État de droit?

Le Conseil de l’Europe a élaboré une convention internationale (‚Convention‘) ou une convention-cadre (‚Framework Convention‘). Il s’agit d’un traité international contraignant pour les États signataires de la convention. Les États sont ainsi libres de signer ou non, mais s’ils le font, ils s’engagent légalement à la respecter. Les États non-membres peuvent également signer la convention; c’est pourquoi d’autres pays, comme les États-Unis et Israël, ont aussi participé aux négociations.

La convention comprend une série d’obligations pour les États qui doivent garantir que les droits humains, la démocratie et l'État de droit sont respectés lors du développement et de l'utilisation des systèmes d'IA. Elle laisse toutefois une grande marge d'interprétation et de mise en œuvre à de nombreux endroits et se réfère plutôt à des principes généraux. Les États signataires doivent appliquer ces règles au niveau national en introduisant les lois et mesures de protection relatives. Les exigences s'appliquent en principe horizontalement, c'est-à-dire à tous les secteurs, mais elles sont moins étendues pour les entreprises que pour les autorités publiques: Les États peuvent décider eux-mêmes des mesures qu'ils prévoient pour les entreprises privées, il ne doit pas s'agir de lois contraignantes. Et dans le domaine de la «sécurité nationale», les autorités sont également exemptées, car la convention ne s'applique pas à ce domaine.

Comme la Convention doit être mise en œuvre au niveau national, les personnes concernées seront protégées contre les effets néfastes des systèmes d'IA par la législation nationale et pourront faire appel au niveau national. La convention stipule également que les États doivent mettre en place un organisme de surveillance national. Il n'est toutefois pas prévu que les particuliers puissent faire valoir des violations de la nouvelle convention sur l'IA directement devant la Cour européenne des droits de l'homme. En effet, son mandat est limité à la Convention européenne des droits de l'homme (CEDH). Les particuliers pourraient cependant bien entendu déposer des plaintes auprès de la Cour pour violation de leurs droits CEDH en rapport avec les systèmes d'IA (à condition qu'ils aient suivi la procédure judiciaire au niveau national, c'est-à-dire que les tribunaux nationaux aient rejeté leur plainte). La Cour tiendrait alors très probablement compte des principes inscrits dans la convention sur l’IA, au moins dans l'interprétation des droits de la CEDH concernés.

Ce qui s’est passé jusqu’ici

• 2019 - 2021: le Comité ad hoc sur l’intelligence artificielle (CAHAI) prépare les négociations. Il publie une «étude de faisabilité» sur un cadre juridique pour l'IA et adopte à la fin de son mandat les recommandations finales «Éléments possibles d'un cadre juridique pour l'IA basé sur les normes du Conseil de l'Europe en matière de droits de l'homme, de démocratie et d'État de droit».
• Avril 2022: le nouveau Comité sur l'intelligence artificielle (Committee on Artificial Intelligence CAI) tient sa réunion constitutive à Rome et élit l’Ambassadeur suisse Thomas Schneider à sa présidence. Son travail doit se baser sur les recommandations finales du CAHAI. Toutefois, le CAI a désormais pour mission de négocier un «instrument juridique approprié» d'ici novembre 2023 (voir mandat).
• Janvier 2023: troisième assemblée plénière du CAI. Il est décidé qu'à l'avenir, les réunions seront réparties entre l'assemblée plénière et le «Drafting Group». Le Drafting Group doit élaborer des propositions sur le texte de la convention. Les organisations de la société civile et autres organisations observatrices en sont exclues.
• Mars 2024: lors du cycle de négociations final, le CAI adopte son projet de Convention sur l'IA.
• Avril 2024: l'Assemblée parlementaire du Conseil de l'Europe (APCE) discute du projet de convention sur l'IA et prend position dans une «opinion».

Quelles sont les prochaines étapes?

La Convention sur l'IA devrait être adoptée par le Comité des Ministres le 17 mai 2024. Elle sera ensuite ouverte à la signature des États. La signature est d'abord une déclaration d'intention, avant que la convention ne s'applique réellement dans un pays, celui-ci doit la ratifier. Pour cela, les parlements nationaux doivent d'abord donner leur accord et les principales dispositions de la convention doivent être mises en œuvre au niveau national.

Que dit AlgorithmWatch à ce propos?

AlgorithmWatch a participé aux négociations du CAI en tant qu'organisation observatrice active et officielle. Auparavant, nous avons participé au CAHAI en tant qu'observateur officiel en 2020 et 2021. L'objectif de notre participation a toujours été de faire entendre la voix de la société civile dans les négociations et de veiller à ce que la convention sur l’IA soit réellement axée sur le mandat du Conseil de l'Europe : la protection de nos droits fondamentaux, de notre démocratie et de l'État de droit. Après l'adoption de la convention, nous allons désormais nous engager au niveau national, en Suisse et en Allemagne, pour que les États mettent en œuvre les dispositions avec détermination, exhaustivité et clairvoyance, et ne se contentent pas d'une solution minimale.

• Avril 2024: nous informons les membres de l’Assemblée parlementaire de notre évaluation, qu'ils reprennent dans leurs votes.
• Janvier et mars 2024: avec plus de 100 organisations de la société civile et des chercheur·e·s, nous avons appelé les États négociateurs à veiller à ce que la convention couvre de la même manière le secteur public et le secteur privé et à rejeter les exceptions générales pour la sécurité nationale.
• Janvier 2023: à l'occasion de la Journée internationale de la protection des données, nous appelons à la mise en place d'une convention efficace sur l'IA.
• Octobre 2022: avec nos partenaires, nous appelons l'UE à ne pas retarder les négociations du Conseil de l'Europe sur la Convention sur l'IA.
• Avril 2022: lors de la réunion d'ouverture du CAI, nous avons clairement formulé nos principales revendications en collaboration avec nos organisations partenaires principales.
• Décembre 2021: à la fin du mandat du CAHAI et après deux ans de travail intensif, nous craignions que les recommandations du CAHAI ne soient pas à la hauteur de ce qui est nécessaire pour garantir le plein respect et la protection des droits humains, de la démocratie et de l'État de droit.