Algorithmes, IA et démocratie

Les réseaux sociaux, les moteurs de recherche et les chatbots IA sont désormais omniprésents dans notre monde de l'information. Une grande partie de notre débat public se déroule sur Instagram, X, LinkedIn, YouTube ou TikTok. Leurs algorithmes sont conçus pour nous garder en ligne le plus longtemps possible afin de maximiser leurs profits. Cela peut également conduire à la diffusion de discours haineux ou de contenus trompeurs. Nous obtenons les informations que nous utilisons pour nous forger une opinion via des moteurs de recherche tels que Google, qui nous fournissent désormais des résultats générés par l'IA et déterminent ainsi eux-mêmes quelles informations sont considérées comme pertinentes. L'IA générative permet de créer rapidement du «AI Slop» de mauvaise qualité ou des deepfakes à caractère sexuel. Et les règles qui s'appliquent aux plateformes en ligne ne sont ni fiables ni compréhensibles, mais dépendent des caprices, des intérêts commerciaux et des contraintes politiques de leurs propriétaires.

Les algorithmes et l'IA influencent aujourd'hui de manière significative la manière dont nous trouvons, consommons et diffusons les contenus. Ils peuvent ainsi avoir un impact non seulement sur notre propre bien-être, mais aussi sur la formation de l'opinion démocratique et le débat public. Cette concentration du pouvoir commercial et de l'influence sur l'opinion publique entre les mains d'une poignée d'entreprises technologiques représente un défi: pour la qualité du débat public, pour le bien-être et les droits fondamentaux des individus, pour l'accès à des informations fiables et, en fin de compte, pour la formation d'une opinion éclairée. En bref: pour les droits fondamentaux, la société et la démocratie.

AlgorithmWatch CH s'engage à garantir un débat public constructif, bénéfique pour la société et la démocratie, positif pour les individus et équitable pour toutes et tous. Dans ce dossier thématique, nous présentons un aperçu de nos recherches sur l'interface entre technologie et démocratie, nos recommandations pour la réglementation des plateformes en ligne et nos contributions au débat public sur ce sujet.