Protéger les droits fondamentaux, défendre la démocratie, permettre la durabilité

Quelle IA voulons-nous? Conditions-cadres pour les algorithmes et l’Intelligence artificielle

Le Conseil fédéral analyse d'ici fin 2024 les besoins de réglementation en lien avec l'IA et prendra sur cette base d'éventuelles mesures l'année prochaine. Nous résumons ici les éléments que le Conseil fédéral et le Parlement devraient prendre en compte du point de vue des droits fondamentaux, de la démocratie et de la durabilité.

Graphique : Beate Autering
Angela Müller
Dr. Angela Müller
Directrice d'AlgorithmWatch CH | Associée d’AlgorithmWatch
Estelle Pannatier
Chargée de politique

Aperçu

  1. Introduction
  2. IA et droits fondamentaux
  3. IA, société et démocratie
  4. IA, pouvoir et durabilité

Les algorithmes et l'Intelligence artificielle (IA) sont de plus en plus utilisés, et les spéculations sur leurs chances et risques pour le futur sont nombreuses. Cependant, le développement et l'utilisation de ces systèmes ont déjà un impact réel sur les personnes et la société et donc sur les conditions de la démocratie: sur les droits fondamentaux, l'égalité de traitement et la protection des minorités, tout comme sur l'éducation, le débat public et la formation de l'opinion ou la répartition du pouvoir dans la société. Nous devrions donc nous demander: Quelle IA voulons-nous? Comment faire en sorte que cette technologie ne reproduise pas les injustices existantes et ne serve pas uniquement les intérêts de quelques-uns? Et comment pouvons-nous façonner l'IA, plutôt que de la laisser nous façonner?

Si nous voulons faire en sorte que les algorithmes et l'IA bénéficient à toutes et à tous, nous avons la responsabilité de nous attaquer sérieusement aux défis sociétaux qui les accompagnent.

Pour ce faire, nous devrions concevoir des conditions-cadres pour le développement et l'utilisation des algorithmes et de l'IA qui ...

… préviennent les dommages: les algorithmes et l'IA peuvent avoir un impact sur les droits fondamentaux, la justice, la démocratie et la durabilité. Pour protéger ces acquis sociaux, nous ne devrions pas nous en remettre au bon vouloir des entreprises technologiques. C'est à nous, en tant que société démocratique, de définir les exigences et de garantir une utilisation responsable et équitable de la technologie.

… permettent un bénéfice pour toutes et tous: un coup d'œil sur la chaîne de création de valeur derrière l'IA montre qu'elle est aujourd'hui entre les mains de quelques grands groupes mondiaux. Nous ne devons jamais faire abstraction de cette concentration de pouvoir lorsque nous réfléchissons à notre approche de l'IA. L'objectif doit être que le développement technologique lui-même soit organisé de manière durable et dans l'intérêt du bien commun, et pas seulement pour servir les intérêts particuliers de quelques-uns. L'IA doit être développée et utilisée de manière à ce qu'elle profite réellement à tous les êtres humains.

La politique doit donc faire preuve de créativité et de volonté pour protéger les droits fondamentaux, défendre la démocratie et permettre la durabilité dans le cadre de l'utilisation des algorithmes et de l'IA. Elle doit notamment encourager la recherche interdisciplinaire, l'éducation et la sensibilisation à l'IA, mettre à disposition les infrastructures publiques et d'utilité publique à cet effet et renforcer les compétences démocratiques et la diversité des médias. Parallèlement, des mesures sont également nécessaires au niveau législatif. L'objectif global est de mettre en place des conditions-cadres qui empêchent les effets négatifs tout en favorisant des chaînes d'approvisionnement responsable, un développement durable et un marché équitable de l'IA, qui génère des innovations d'intérêt général.

Le Conseil fédéral a maintenant cette chance: il analyse d'ici fin 2024 les besoins de réglementation en lien avec l'IA et prendra sur cette base des éventuelles mesures l'année prochaine. Ce que le Conseil fédéral et le Parlement devraient prendre en compte du point de vue des droits fondamentaux, de la démocratie et du développement durable est brièvement résumé ci-dessous et peut être lu en détail dans notre papier de position.

IA et droits fondamentaux

Les algorithmes et l'IA peuvent influencer les décisions concernant les personnes, que ce soit pour examiner les candidatures à un emploi, mesurer la solvabilité, réglementer l'accès aux établissements d'enseignement, prédire les crimes, prévoir les taux de récidive ou détecter les fraudes aux prestations sociales. Ce faisant, ils peuvent avoir des effets discriminatoires et autrement préjudiciables sur les individus et porter atteinte à leurs droits fondamentaux.

Objectif: nous garantissons que les algorithmes et l'IA sont utilisés de manière compréhensible, responsable et dans le respect des droits fondamentaux lorsqu'ils influencent des décisions concernant des personnes.

Pour ce faire, nous avons besoin de mesures visant à instaurer la transparence, à protéger les droits fondamentaux, à renforcer la protection contre la discrimination, à exercer une surveillance et à garantir l'accès aux voies de recours et à l'obligation de rendre des comptes.

Lire la suite dans le papier de position à la page 5

IA, société et démocratie

Une partie importante de notre débat public se déroule aujourd'hui sur des plateformes de réseaux sociaux comme Instagram, X, LinkedIn ou TikTok, dont les algorithmes doivent nous garder en ligne le plus longtemps possible afin de maximiser leurs profits. Nous nous procurons des informations pour nous forger une opinion via des moteurs de recherche comme Google ou Bing. Les contenus qui nuisent aux personnes ou qui entravent la formation de l'opinion, comme les deepfakes, sont de plus en plus souvent créés par des systèmes d'IA générative et diffusés sur des plateformes par des algorithmes opaques. Ce manque de transparence, l'absence de responsabilité et la concentration du pouvoir de marché et d'opinion entre les mains d'un petit nombre de multinationales technologiques valant des milliards constituent un défi pour notre débat public.

Objectif: nous rendons possible un débat public constructif – bénéfique pour la société et la démocratie, positif pour les individus et équitable pour toutes et tous.

Pour cela, nous avons besoin de mesures pour examiner comment le contrôle algorithmique affecte le débat public et ce que cela signifie pour nous en tant qu'individus et en tant que société. Nous devons pouvoir demander des comptes aux plateformes en ligne et aux fournisseurs d'IA lorsqu'ils acceptent les effets négatifs pour maximiser leurs profits.

Lire la suite dans le papier de position à la page 8

IA, pouvoir et durabilité

L'IA n'existe pas aujourd'hui sans la Big Tech. La chaîne de création de valeur est marquée par des concentrations de pouvoir entre les mains de quelques grandes entreprises, par une consommation énorme de ressources telles que l'énergie et l'eau, par des émissions de CO2 considérables et par des conditions de travail parfois précaires, par exemple lorsque l'entraînement des modèles est délocalisé dans le Sud global.

Objectif: nous veillons à ce que les systèmes d'IA soient eux-mêmes conçus de manière durable, sur le plan écologique, économique et social, tout au long de la chaîne de création de valeur.

Pour cela, nous avons besoin de mesures pour contrer le pouvoir de marché énorme et significatif pour la démocratie de quelques entreprises et pour permettre un marché de l'IA durable ainsi qu'un développement de l'IA orienté vers l'intérêt général. En outre, les entreprises qui développent et utilisent l'IA doivent assumer la responsabilité de leurs chaînes d'approvisionnement et respecter les obligations de diligence en matière de durabilité et de droits humains.

Lire la suite dans le papier de position à la page 10

AlgorithmNews CH - abonne-toi maintenant à notre newsletter !