Briefing
Quand les algorithmes et l’IA (co)décident: protéger les droits fondamentaux
Le Conseil fédéral veut ratifier la Convention sur l’intelligence artificielle du Conseil de l'Europe. Nous présentons dans un nouveau briefing les éléments à prendre en compte lors de la réglementation de l'IA, afin que les algorithmes et l'IA soient utilisés de manière compréhensible, responsable et dans le respect des droits fondamentaux lorsqu'ils influencent des décisions concernant des personnes.
Dr. Angela Müller
Directrice d'AlgorithmWatch CH | Associée d’AlgorithmWatch
Les algorithmes et l'intelligence artificielle (IA) peuvent influencer les décisions concernant les personnes, que ce soit lorsque les systèmes sont supposés examiner les candidatures à un emploi, évaluer la solvabilité, réglementer l'accès aux établissements d'enseignement, prédire les crimes, prévoir les taux de récidive ou détecter les fraudes aux prestations sociales. Ces systèmes font des prévisions, émettent des recommandations ou prennent des décisions (systèmes de prise de décision automatisée, ou ADM) ou génèrent des contenus qui concernent des décisions relatives à des personnes. Ils peuvent ce faisant avoir des effets négatifs sur les personnes concernées, qui touchent à leurs droits fondamentaux.
Dans sa décision de principe du 12 février 2025, le Conseil fédéral a reconnu que l'IA devait être réglementée pour protéger les droits fondamentaux. Dans cette optique, il a signé la Convention sur l'IA du Conseil de l'Europe et prépare d'ici fin 2026 les projets de loi nécessaires à la ratification de la convention, notamment dans les domaines de la transparence, de la protection contre la discrimination et de la surveillance. Il s'agit là d'un signal important indiquant que les droits humains, la démocratie et l'État de droit doivent être protégés et promus dans le cadre de l'utilisation de l'IA. La mise en œuvre de la convention nécessitera des mesures importantes qui contribueront à la protection des droits fondamentaux.
Mais ce n'est que si la Suisse met en œuvre la convention sur l'IA avec détermination et ambition que les droits fondamentaux pourront être protégés de manière fiable. Des mesures contraignantes doivent être prises pour le développement et l'utilisation de systèmes algorithmiques et d'IA, tant dans le secteur public que dans le secteur privé. En effet, les privés utilisent également ces systèmes pour prendre des décisions essentielles pour les personnes: par exemple, lorsqu'ils évaluent les candidatures à un emploi, les performances des employé·e·s, calculent les prestations d'assurance ou vérifient la solvabilité. Par ailleurs, le développement et l'utilisation de systèmes algorithmiques et d'IA dans des domaines qui n'entrent pas dans le champ d'application de la convention, comme la sécurité nationale par exemple, ne doivent pas être ignorés. En effet, ce sont précisément des domaines dans lesquels la protection des droits fondamentaux prend une importance particulière.
Ce briefing donne un aperçu de nos recommandations pour que les algorithmes et l'IA soient utilisés de manière compréhensible, responsable et dans le respect des droits fondamentaux lorsqu'ils influencent des décisions concernant des personnes.
Nos recommandations
- Lorsque nous utilisons l'IA pour prendre des décisions, nous devons nous assurer que les décisions influencées par les systèmes d'IA sont transparentes et compréhensibles pour les personnes concernées. L'autonomie des personnes doit être préservée et la protection contre la discrimination renforcée.
- En tant que société, nous devrions tracer des lignes rouges là où les applications de l'IA et des algorithmes ont des impacts disproportionnés sur les personnes et leurs droits fondamentaux, qui sont incompatibles avec l'idée d'une société démocratique.
- La protection des droits fondamentaux doit être assurée tout au long de la chaîne de création de valeur lors du développement et de l'utilisation de l'IA.
Il ne s'agit toutefois que d'une pièce du puzzle d'une stratégie globale pour la gestion de l'IA. Dans notre papier de position «Quelle IA voulons-nous? Conditions-cadres pour les algorithmes et l’Intelligence artificielle», nous montrons par ailleurs quelles conditions-cadres sont nécessaires pour organiser le développement et l'utilisation des algorithmes et de l'IA de manière à prévenir les dommages et à permettre un bénéfice pour toutes et tous.
