#publicsphere (25 résultats)

Lettre ouverte au Conseil fédéral

Notre démocratie a besoin de règles pour les réseaux sociaux et les moteurs de recherche

Les algorithmes et l’Intelligence artificielle (IA) doivent bénéficier à toutes et tous. Pour cela, nous devons nous assurer que les systèmes sont utilisés de manière responsable et qu'ils ne discriminent pas. Nous appelons donc le Conseil fédéral à faire de la protection contre la discrimination par les algorithmes une priorité de la future régulation de l'IA.

Communiqué de presse

Le Conseil fédéral s’aplatit devant Trump, Musk et consorts

Le Conseil fédéral a décidé aujourd'hui de retarder encore le projet de loi sur la réglementation des réseaux sociaux et des moteurs de recherche, annoncé depuis plus d'un an. Ce report répété intervient dans le contexte de la géopolitique actuelle. Le Conseil fédéral semble miser sur la carte imprévisible de Donald Trump. Il cimente ainsi notre dépendance vis-à-vis des groupes technologiques américains au lieu de protéger notre démocratie de leur énorme concentration de pouvoir de marché et d'opinion.

Explication

Montre ton visage et l’IA dira qui tu es

Les technologies de reconnaissance biométrique permettent d’identifier et de surveiller des personnes. Elles sont censées renforcer la sécurité, mais elles discriminent, menacent les droits fondamentaux et peuvent même conduire à de la surveillance de masse.

Communiqué de presse

Le Conseil fédéral retarde la réglementation des réseaux sociaux et des moteurs de recherche

Malgré la concentration croissante du pouvoir au sein des grands groupes tech ou justement à cause de celle-ci, le projet de loi annoncé depuis un an pour réguler les plateformes en ligne comme Instagram, X ou Google Search se fait toujours attendre. Dans un papier de position publié aujourd'hui, AlgorithmWatch CH présente de manière détaillée les mesures nécessaires pour contrer cette concentration de pouvoir et permettre, en ligne aussi, un débat public constructif, qui soit bénéfique pour la société et la démocratie.

Papier de position

Plateformes en ligne: conditions-cadres pour un débat public constructif

Le Conseil fédéral a annoncé un projet de loi visant à réglementer les grandes plateformes de communication en ligne et les moteurs de recherche. Il retarde sa publication depuis près d'un an. Nous exposons dans un papier de position ce qu'il faudrait pour permettre un débat constructif, bénéfique pour la société et la démocratie, positif pour les individus et équitable pour toutes et tous.

Communiqués de presse

Réglementation de l’IA: un Conseil fédéral timide

Le Conseil fédéral veut réglementer l’Intelligence artificielle. La décision de principe qu’il a prise aujourd’hui va dans la bonne direction, mais c’est un pas timide et peu ambitieux. Un jour après le Sommet pour l'action sur l’IA de Paris et à une époque où la concentration du pouvoir au sein des groupes technologiques et de leurs propriétaires a pris des proportions inquiétantes, le Conseil fédéral devrait agir de manière plus déterminée et mettre les intérêts de la population au centre, pour protéger de manière globale les droits fondamentaux, la démocratie et la durabilité en lien avec l'utilisation de l'IA. AlgorithmWatch CH présente les mesures qui seraient nécessaires à cet effet de manière détaillée dans sa propre analyse.

Papier de position

Quelle IA voulons-nous? Conditions-cadres pour les algorithmes et l’Intelligence artificielle

Le Conseil fédéral analyse d'ici fin 2024 les besoins de réglementation en lien avec l'IA et prendra sur cette base d'éventuelles mesures l'année prochaine. Nous résumons ici les éléments que le Conseil fédéral et le Parlement devraient prendre en compte du point de vue des droits fondamentaux, de la démocratie et de la durabilité.

Projet «HUMAN»

Les humains doivent s’assurer que l’IA soit au service des humains

Lorsque la police tente de calculer la probabilité de récidive des délinquant·e·s à l'aide d'algorithmes, lorsque les employeurs prétrient les candidatures à l'aide de l'IA ou quand un chatbot d’IA rédige des articles de presse: qui est concerné·e par ces contenus, recommandations et décisions générés par des algorithmes? Et comment les personnes concernées peuvent-elles être impliquées afin de garantir leurs droits et leurs intérêts?

Communiqué de presse

Étude: recherche Microsoft basée sur l’IA avant les élections suisses – un dangereux manque de fiabilité

Les personnes qui s'informent sur Bing Chat avant des élections, comme lors des récentes élections au Conseil fédéral, doivent s'attendre à des réponses trompeuses, erronées et unilatérales. Le moteur de recherche de Microsoft avec fonction chatbot intégrée invente des scandales et réinvente parfois la composition du Conseil fédéral. C'est ce que montre une étude conduite par AlgorithmWatch et AI Forensics sur les élections en Suisse, en Bavière et en Hesse en octobre 2023, dont le rapport final est désormais disponible. Microsoft ne semble pas avoir de solution à ce problème.

Rapport final : recherche sur Microsoft Bing Chat

Le chatbot d’IA fournit des réponses erronées aux questions sur les élections démocratiques

Bing Chat, le chatbot d’IA intégré au moteur de recherche Bing de Microsoft, invente des scandales, imagine des valeurs de sondage et indique de fausses dates d'élections. Microsoft ne semble pas être en mesure ou ne pas souhaiter remédier à ce problème. C'est ce que montre une étude menée par AlgorithmWatch et AI Forensics, dont le rapport final est désormais disponible. Nous y avons analysé le comportement de réponse du chatbot pour les élections en Suisse, en Bavière et en Hesse en octobre 2023.

Communiqué de presse

Appel de la société civile: pas d’attentisme dans la réglementation de l’IA et des systèmes de prise de décision automatisée

La Société Numérique, Pour Demain, AlgorithmWatch CH, CH++ et opendata.ch demandent que la réglementation de l'Intelligence artificielle et des systèmes de prise de décision automatisée aille de l'avant en Suisse. Selon ces organisations, un cadre légal est nécessaire pour assurer la sécurité juridique de ces nouvelles technologies et l'innovation orientée vers l'intérêt général.

Résultats intermédiaires : recherche sur Microsoft Bing Chat

Grands modèles linguistiques d’IA dans le contexte des élections

Avec quelle fiabilité le chatbot du moteur de recherche Bing de Microsoft répond-il aux questions sur les élections à venir en Suisse, en Bavière et en Hesse? Notre recherche le montre: le grand modèle linguistique GPT-4 qui le sous-tend génère et diffuse des informations inventées et trompeuses. Cela pourrait devenir un problème pour la démocratie.

Élections 2023

Comment ChatGPT, Bing Chat & Co. pourraient menacer la formation de l’opinion publique

S’informer sur comment voter à l’aide de modèles linguistiques d’IA tel que Bing Chat est une très mauvaise idée. C’est en effet ce que mettent en évidence les résultats d’une analyse menée par AlgorithmWatch et AI Forensics en collaboration avec la RTS et la SRF dans le cadre des élections fédérales en Suisse, ainsi que des élections régionales en Bavière et dans la Hesse. Ces grands modèles de langage apportent à des questions importantes des réponses parfois complètement erronées, en partie mensongères, incomplètes ou obsolètes. Bing Chat, ChatGPT et Co. peuvent ainsi constituer une menace pour la formation de l’opinion publique dans une démocratie.

Communiqué de presse

Questionnaire smartvote: une forte majorité pour l’interdiction de la reconnaissance faciale

Près de 80% des candidat·e·x·s aux élections fédérales sont favorables à une interdiction de la reconnaissance faciale automatisée dans l’espace public. Tous les partis excepté l’UDC rejettent cette forme de surveillance de masse. L’alliance «Protégeons nos droits fondamentaux, non à la reconnaissance faciale» salue le résultat sans équivoque de l’enquête smartvote.

Communiqué de presse

Intelligence artificielle: en Suisse, les algorithmes discriminent en toute impunité

Dans sa nouvelle prise de position, l'organisation de défense des droits humains AlgorithmWatch CH critique le droit suisse contre la discrimination, qui présente des lacunes évidentes en matière de protection contre la discrimination par les algorithmes. Le papier de position montre de manière détaillée comment l’Intelligence artificielle et d'autres systèmes algorithmiques peuvent conduire à de nouvelles formes de discrimination. AlgorithmWatch CH demande donc une extension du cadre juridique contre la discrimination, notamment par une interdiction générale de la discrimination pour les privés ainsi que par l’introduction de procédures de recours collectifs.

Papier de position

Discrimination par des algorithmes: comment assurer la protection?

Lorsque des algorithmes font des pronostics, donnent des recommandations ou prennent des décisions, il y a toujours un risque qu’ils discriminent des personnes. Mais comment les algorithmes discriminent-ils exactement? Et que devrait faire la politique pour y remédier? Nous montrons la nécessité d’agir et proposons des solutions pour renforcer la protection contre la discrimination algorithmique.

Communiqué de presse

Plusieurs villes et cantons veulent interdire la reconnaissance faciale

La reconnaissance faciale automatisée doit être interdite dans l’espace public. C’est ce que réclament plusieurs interventions parlementaires dans des villes et cantons suisses. La campagne d’AlgorithmWatch CH, Amnesty International et Société Numérique pour une interdiction de la surveillance biométrique de masse montre des résultats concrets.

Atlas de l’automatisation

Pour détecter les fraudes aux prestations sociales, mesurer les performances au travail, prédire la solvabilité d'une personne ou nous afficher des contenus personnalisés en ligne - les algorithmes et ce que l'on appelle «Intelligence artificielle» façonnent aujourd'hui notre quotidien. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Communiqué de presse

‹IA› et algorithmes en Suisse: éclairage sur cette boîte noire

Les systèmes algorithmiques et l’Intelligence artificielle (IA) sont actuellement sur toutes les lèvres. Pendant que tout le monde parle de ChatGPT, on oublie que l'automatisation est déjà largement étendue en Suisse: de plus en plus de décisions concernant les personnes sont influencées par des algorithmes. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Wanted: des règles du jeu pour l’IA dans la campagne électorale

Des systèmes d’«Intelligence artificielle» disponibles en ligne permettent aujourd'hui de générer en quelques secondes de nouveaux contenus, sous la forme d’images ou de textes. Ceux-ci peuvent également être utilisés de manière stratégique à des fins politiques. En collaboration avec l'agence Feinheit, AlgorithmWatch CH appelle les partis suisses à identifier clairement ces contenus lors de la campagne électorale à venir - et à ne pas les utiliser de manière négative dans la campagne.

Fedpol veut déployer la reconnaissance faciale – par la petite porte

Début avril, le Conseil fédéral a accepté que l'Office fédéral de la police (Fedpol) renouvelle son système d'identification automatisée. Mais le nouveau système offre également de nouvelles possibilités d'analyse d'images, qui soulèvent des questions relatives aux droits fondamentaux.

En bref

Le Conseil de l’Europe instaure un cadre pour l’Intelligence artificielle

Outre l'UE, le Conseil de l'Europe à Strasbourg réglemente également l’Intelligence artificielle avec la Convention sur l’IA, le premier traité international sur l’IA. Dans ce guide, nous expliquons ce que cela implique, pourquoi c'est important pour nous touxtes et quelles sont les prochaines étapes.

La reconnaissance biométrique dans les lieux publics – une menace pour les droits humains

Dans les aéroports, les stades de foot ou dans le cadre de poursuite pénale, la reconnaissance faciale et d’autres systèmes de reconnaissance biométrique sont de plus en plus employés en Suisse. Lorsqu’ils sont utilisés à des fins d’identification dans les lieux accessibles au public, ces systèmes sont incompatibles avec les droits fondamentaux et les droits humains, notamment le droit à la sphère privée, la liberté d’expression et de rassemblement, et l’interdiction de discriminer.

Communiqué de presse

Le Conseil fédéral donne (enfin) le coup d’envoi de la régulation de Facebook, Twitter & Co.

Le Conseil fédéral a tenu mercredi dernier une discussion sur la régulation des plateformes de communication en ligne. AlgorithmWatch CH salue ce premier pas et fait, en collaboration avec des organisations de la société civile, des propositions pour une réglementation équilibrée et pertinente.

Guide

Régulation des plateformes: que fait la Suisse?

Alors que l'Union européenne (UE) a déjà décidé de réglementer les plateformes en ligne, la Suisse commence seulement s'atteler à la tâche. Dans cet article, nous mettons en lumière les développements politiques actuels.