Le Conseil de l’Europe instaure un cadre pour l’Intelligence artificielle

Les systèmes algorithmiques, souvent désignés par le terme « Intelligence artificielle » (IA), sont aujourd'hui utilisés pour détecter les fraudes aux prestations sociales, surveiller les personnes sur leur lieu de travail ou prédire le risque de récidive des personnes ayant purgé leur peine. Souvent, ces systèmes reposent non seulement sur des bases scientifiques bancales, mais peuvent aussi violer des droits fondamentaux, tels que la non-discrimination, la liberté d'expression, la sphère privée ou l'accès à la justice, saper les principes démocratiques fondamentaux et entrer en conflit avec les principes de l'État de droit en raison de leur manque de transparence et de l'absence de mécanismes de responsabilisation. Dans ce contexte et à la lumière de son mandat, le Conseil de l'Europe a reconnu la nécessité pour les États de régir le développement et l'utilisation des systèmes d'IA. C’est pourquoi ses États membres, dont la Suisse, et certains autres États intéressés, comme les États-Unis ou le Japon, négocient actuellement une convention sur l'IA à Strasbourg. Des organisations de la société civile comme AlgorithmWatch ainsi que des expert·e·s et des entreprises sont également représenté·e·s en tant qu'organisations observatrices.

Le Conseil de l’Europe est une organisation internationale fondée en 1949 et chargée de préserver les droits humains, la démocratie et l'état de droit en Europe. Il compte actuellement 46 États membres (dont 27 sont aussi membres de l’Union européenne (UE) et a son siège à Strasbourg. Il ne faut pas le confondre avec le Conseil européen et le Conseil de l’Union européenne, qui, contrairement au Conseil de l’Europe, sont tous deux des organes de l’UE. En 1950, le Conseil de l’Europe a rédigé la Convention européenn des droits de l’homme (CEDH), dont la ratification est toujours pour l’adhésion de nouveaux États membres. Le Conseil de l’Europe héberge la Cour européenne des droits de l’homme qui surveille l’application de la CEDH et promeut les droits humains par une série de mesures supplémentaires, dont des conventions internationales telles que la Convention de Budapest sur le cybercrime ou la Convention 108 sur la protection des données.

Qu’est-ce que cela signifierait ? Comment les travaux du Conseil de l’Europe protégeront-ils nos droits, notre démocratie et nos principes de l’État de droit ?

Le Conseil de l’Europe prévoit selon les informations actuelles de créer une convention internationale (‚Convention‘) ou une convention-cadre (‚Framework Convention‘), c'est-à-dire un traité international contraignant pour les États signataires. Les États seraient ainsi libres de signer ou non, mais s’ils le font, ils s’engagent légalement à la respecter. Les États non-membres pourraient également signer la convention; c’est pourquoi les États-Unis et Israël participent aux négociations en cours.

Une telle convention contiendrait une série d’obligations pour les États qui devront vérifier qu’aucun droit humain n’est violé lors du développement et de l’utilisation de systèmes d’IA. La convention ne se limiterait pas à un secteur spécifique mais contiendrait des règles horizontales (qui pourraient toutefois être complétée par des instruments sectoriels supplémentaires contraignants ou non). Les États signataires devraient appliquer ces règles au niveau national en introduisant les lois domestiques et de mesures de protection relatives. Les personnes concernées seraient ainsi protégées par les lois nationales des impacts néfastes des systèmes algorithmiques et pourrait recourir à des moyens légaux à l'échelle nationale. La convention pourrait également exiger des États qu'ils mettent en place un organisme de surveillance national.

Par ailleurs, il est d'usage de mettre en place une procédure de suivi des conventions (cadres) au niveau du Conseil de l'Europe ; la question de savoir s'il y en aura une et comment elle serait organisée fait l'objet de négociations. Ce qui est déjà clair, c'est qu'elle n'inclurait pas la possibilité pour les individus de faire valoir des violations de la nouvelle convention sur l'IA directement devant la Cour européenne des droits de l'homme. En effet, son mandat est limité à la Convention européenne des droits de l'homme (CEDH). Les particuliers pourraient cependant bien entendu déposer des plaintes auprès de la Cour pour violation de leurs droits CEDH en rapport avec les systèmes d'IA (à condition qu'ils aient suivi la procédure judiciaire au niveau national, c'est-à-dire que les tribunaux nationaux aient rejeté leur plainte). Selon toute vraisemblance, la Cour tiendrait alors compte des principes consacrés par l'instrument juridique spécifique aux systèmes d'IA, au moins dans l'interprétation des droits de la CEDH concernés.

Ce qui s’est passé jusqu’ici

• 2019 - 2021 : le Comité ad hoc sur l’intelligence artificielle (CAHAI) prépare les négociations. Il publie une «étude de faisabilité» sur un cadre juridique pour l'IA et adopte à la fin de son mandat les recommandations finales “Éléments possibles d'un cadre juridique pour l'IA basé sur les normes du Conseil de l'Europe en matière de droits de l'homme, de démocratie et d'État de droit”.
• Avril 2022 : le nouveau Comité sur l'intelligence artificielle (Committee on Artificial Intelligence CAI) tient sa réunion constitutive à Rome. Son travail doit se baser sur les recommandations finales du CAHAI. Toutefois, le CAI a désormais pour mission de négocier un « instrument juridique approprié » d'ici novembre 2023 (voir mandat).
• Juin 2022 : le Conseil de l'Europe spécifie que l'objectif des négociations doit être une convention ou une convention-cadre juridiquement contraignante.
• Janvier 2023 : troisième assemblée plénière du CAI. Il est décidé qu'à l'avenir, les réunions seront réparties entre l'assemblée plénière et le « Drafting Group ». Le Drafting Group doit élaborer des propositions sur le texte de la convention. Les organisations de la société civile et autres organisations observatrices en sont exclues.
• Février 2023 : le CAI publie le premier projet de convention. Il s'agit toutefois d'un projet du secrétariat qui sert désormais de base aux négociations au sein du CAI.
• Décembre 2024 : le CAI publie un deuxième projet de convention, qui contient les résultats de la deuxième lecture.

Quelles sont les prochaines étapes?

Une dernière assemblée plénière est prévue en mars 2024, date à laquelle les États membres devraient se mettre d'accord sur le texte de la convention, qui devrait ensuite être adopté par le Comité des ministres en mai 2024.

Que dis AlgorithmWatch à ce propos ?

AlgorithmWatch participe actuellement aux négociations du CAI en tant qu'organisation observatrice active et officielle. Auparavant, nous avons participé au CAHAI en tant qu'observateur officiel en 2020 et 2021. L'objectif de notre participation est de faire entendre la voix de la société civile dans les négociations et de veiller à ce que la convention sur l’IA soit réellement axée sur le mandat du Conseil de l'Europe : la protection de nos droits fondamentaux, de notre démocratie et de l'État de droit.

• Janvier 2024 : avec d'autres organisations de la société civile et des chercheur·e·s, nous appelons les États négociateurs à couvrir de la même manière le secteur public et le secteur privé et à rejeter les exceptions générales pour la sécurité nationale.
• Janvier 2023 : à l'occasion de la Journée internationale de la protection des données, nous appelons à la mise en place d'une convention efficace sur l'IA.
• Octobre 2022 : avec nos partenaires, nous appelons l'UE à ne pas retarder les négociations du Conseil de l'Europe sur la convention sur l'IA.
• Avril 2022 : lors de la réunion d'ouverture du CAI, nous avons clairement formulé nos principales revendications en collaboration avec nos organisations partenaires principales.
• Décembre 2021 : à la fin du mandat du CAHAI et après deux ans de travail intensif, nous craignions que les recommandations du CAHAI ne soient pas à la hauteur de ce qui est nécessaire pour garantir le plein respect et la protection des droits humains, de la démocratie et de l'État de droit.