#publicsphere (25 résultats)

Article

Réseaux sociaux et IA: comment protéger les enfants et les jeunes?

À l'occasion de la Journée internationale des droits de l'enfant, nous mettons en lumière les débats actuels sur les effects des réseaux sociaux et de l'intelligence artificielle sur les enfants et les jeunes. Nous montrons pourquoi le débat ne devrait pas se limiter à la question d'une interdiction des réseaux sociaux et comment mieux protéger les enfants et les jeunes.

Guide

Réglementation de l’IA: que fait la Suisse?

En Suisse, il est de plus en plus question de réglementer l'IA. Dans ce guide, nous mettons en lumière les développements politiques actuels.

Communiqué de presse

Pouvoir d’opinion des réseaux sociaux: le Conseil fédéral propose enfin une loi

Après un long retard, le Conseil fédéral a mis aujourd'hui un projet de loi visant à réglementer les plateformes en ligne comme Instagram, X ou Google, en consultation. AlgorithmWatch CH salue cette étape importante, à laquelle l'organisation avait précédemment appelé le Conseil fédéral avec une large alliance de tous les partis. Le projet prévoit des règles importantes pour renforcer la transparence sur les réseaux sociaux. Parallèlement, d'autres mesures sont nécessaires pour contrer la concentration du pouvoir des grands groupes technologiques et permettre un débat public constructif en ligne, bénéfique pour la société et la démocratie, comme l'explique AlgorithmWatch CH dans un papier de position.

Prise de position

L’IA au service du bien commun? C’est possible!

L’EPFL, l’EPFZ et le Centre suisse de calcul scientifique CSCS ont publié leur propre modèle d'IA: «Apertus» devrait devenir le premier modèle de langage suisse orienté vers le bien commun. AlgorithmWatch CH salue cette avancée prometteuse vers le développement d'intelligence artificielle (IA) au service de la société.

Publication

Utiliser l’IA de manière responsable: notre outil d’analyse d’impact

Les systèmes algorithmiques et basés sur l’IA peuvent avoir des répercussions éthiques sur les personnes. Quiconque les utilise endosse donc une responsabilité particulière. L’outil d’analyse d’impact développé par AlgorithmWatch aide à assumer cette responsabilité et donne les moyens de le faire.

Arrêt du Tribunal fédéral sur la surveillance du trafic

Surveillance du trafic: le Tribunal fédéral freine la collecte automatisée de données

La Tribunal fédéral a annulé plusieurs dispositions de la loi cantonale sur la police adoptée en 2022 par le Grand Conseil lucernois autorisant des mesures de surveillance du trafic et de collecte de données par la recherche automatisée de véhicules. Cet arrêt renforce la protection de la sphère privée et met des limites aux législations cantonales en matière de surveillance policière.

Lettre ouverte au Conseil fédéral

Notre démocratie a besoin de règles pour les réseaux sociaux et les moteurs de recherche

Les algorithmes et l’Intelligence artificielle (IA) doivent bénéficier à toutes et tous. Pour cela, nous devons nous assurer que les systèmes sont utilisés de manière responsable et qu'ils ne discriminent pas. Nous appelons donc le Conseil fédéral à faire de la protection contre la discrimination par les algorithmes une priorité de la future régulation de l'IA.

Communiqué de presse

Le Conseil fédéral s’aplatit devant Trump, Musk et consorts

Le Conseil fédéral a décidé aujourd'hui de retarder encore le projet de loi sur la réglementation des réseaux sociaux et des moteurs de recherche, annoncé depuis plus d'un an. Ce report répété intervient dans le contexte de la géopolitique actuelle. Le Conseil fédéral semble miser sur la carte imprévisible de Donald Trump. Il cimente ainsi notre dépendance vis-à-vis des groupes technologiques américains au lieu de protéger notre démocratie de leur énorme concentration de pouvoir de marché et d'opinion.

Explication

Montre ton visage et l’IA dira qui tu es

Les technologies de reconnaissance biométrique permettent d’identifier et de surveiller des personnes. Elles sont censées renforcer la sécurité, mais elles discriminent, menacent les droits fondamentaux et peuvent même conduire à de la surveillance de masse.

Communiqué de presse

Le Conseil fédéral retarde la réglementation des réseaux sociaux et des moteurs de recherche

Malgré la concentration croissante du pouvoir au sein des grands groupes tech ou justement à cause de celle-ci, le projet de loi annoncé depuis un an pour réguler les plateformes en ligne comme Instagram, X ou Google Search se fait toujours attendre. Dans un papier de position publié aujourd'hui, AlgorithmWatch CH présente de manière détaillée les mesures nécessaires pour contrer cette concentration de pouvoir et permettre, en ligne aussi, un débat public constructif, qui soit bénéfique pour la société et la démocratie.

Papier de position

Plateformes en ligne: conditions-cadres pour un débat public constructif

Le Conseil fédéral a annoncé un projet de loi visant à réglementer les grandes plateformes de communication en ligne et les moteurs de recherche. Il retarde sa publication depuis près d'un an. Nous exposons dans un papier de position ce qu'il faudrait pour permettre un débat constructif, bénéfique pour la société et la démocratie, positif pour les individus et équitable pour toutes et tous.

Communiqués de presse

Réglementation de l’IA: un Conseil fédéral timide

Le Conseil fédéral veut réglementer l’Intelligence artificielle. La décision de principe qu’il a prise aujourd’hui va dans la bonne direction, mais c’est un pas timide et peu ambitieux. Un jour après le Sommet pour l'action sur l’IA de Paris et à une époque où la concentration du pouvoir au sein des groupes technologiques et de leurs propriétaires a pris des proportions inquiétantes, le Conseil fédéral devrait agir de manière plus déterminée et mettre les intérêts de la population au centre, pour protéger de manière globale les droits fondamentaux, la démocratie et la durabilité en lien avec l'utilisation de l'IA. AlgorithmWatch CH présente les mesures qui seraient nécessaires à cet effet de manière détaillée dans sa propre analyse.

Papier de position

Quelle IA voulons-nous? Conditions-cadres pour les algorithmes et l’Intelligence artificielle

Le Conseil fédéral analyse d'ici fin 2024 les besoins de réglementation en lien avec l'IA et prendra sur cette base d'éventuelles mesures l'année prochaine. Nous résumons ici les éléments que le Conseil fédéral et le Parlement devraient prendre en compte du point de vue des droits fondamentaux, de la démocratie et de la durabilité.

Projet «HUMAN»

HUMAN – un pas de plus vers une utilisation responsable de l’IA

Lorsque la police tente de calculer la probabilité de récidive des délinquant·e·s à l’aide d’algorithmes, lorsque les employeurs font un premier tri des candidatures à l’aide de l’IA ou lorsqu’un agent conversationnel basé sur l’IA rédige des articles de presse: qui est concerné·e par ces contenus, recommandations et décisions générés par des algorithmes? Comment les personnes concernées peuvent-elles être impliquées afin de garantir le respect de leurs droits et la préservation de leurs intérêts?

Communiqué de presse

Étude: recherche Microsoft basée sur l’IA avant les élections suisses – un dangereux manque de fiabilité

Les personnes qui s'informent sur Bing Chat avant des élections, comme lors des récentes élections au Conseil fédéral, doivent s'attendre à des réponses trompeuses, erronées et unilatérales. Le moteur de recherche de Microsoft avec fonction chatbot intégrée invente des scandales et réinvente parfois la composition du Conseil fédéral. C'est ce que montre une étude conduite par AlgorithmWatch et AI Forensics sur les élections en Suisse, en Bavière et en Hesse en octobre 2023, dont le rapport final est désormais disponible. Microsoft ne semble pas avoir de solution à ce problème.

Rapport final : recherche sur Microsoft Bing Chat

Le chatbot d’IA fournit des réponses erronées aux questions sur les élections démocratiques

Bing Chat, le chatbot d’IA intégré au moteur de recherche Bing de Microsoft, invente des scandales, imagine des valeurs de sondage et indique de fausses dates d'élections. Microsoft ne semble pas être en mesure ou ne pas souhaiter remédier à ce problème. C'est ce que montre une étude menée par AlgorithmWatch et AI Forensics, dont le rapport final est désormais disponible. Nous y avons analysé le comportement de réponse du chatbot pour les élections en Suisse, en Bavière et en Hesse en octobre 2023.

Communiqué de presse

Appel de la société civile: pas d’attentisme dans la réglementation de l’IA et des systèmes de prise de décision automatisée

La Société Numérique, Pour Demain, AlgorithmWatch CH, CH++ et opendata.ch demandent que la réglementation de l'Intelligence artificielle et des systèmes de prise de décision automatisée aille de l'avant en Suisse. Selon ces organisations, un cadre légal est nécessaire pour assurer la sécurité juridique de ces nouvelles technologies et l'innovation orientée vers l'intérêt général.

Résultats intermédiaires : recherche sur Microsoft Bing Chat

Grands modèles linguistiques d’IA dans le contexte des élections

Avec quelle fiabilité le chatbot du moteur de recherche Bing de Microsoft répond-il aux questions sur les élections à venir en Suisse, en Bavière et en Hesse? Notre recherche le montre: le grand modèle linguistique GPT-4 qui le sous-tend génère et diffuse des informations inventées et trompeuses. Cela pourrait devenir un problème pour la démocratie.

Élections 2023

Comment ChatGPT, Bing Chat & Co. pourraient menacer la formation de l’opinion publique

S’informer sur comment voter à l’aide de modèles linguistiques d’IA tel que Bing Chat est une très mauvaise idée. C’est en effet ce que mettent en évidence les résultats d’une analyse menée par AlgorithmWatch et AI Forensics en collaboration avec la RTS et la SRF dans le cadre des élections fédérales en Suisse, ainsi que des élections régionales en Bavière et dans la Hesse. Ces grands modèles de langage apportent à des questions importantes des réponses parfois complètement erronées, en partie mensongères, incomplètes ou obsolètes. Bing Chat, ChatGPT et Co. peuvent ainsi constituer une menace pour la formation de l’opinion publique dans une démocratie.

Communiqué de presse

Questionnaire smartvote: une forte majorité pour l’interdiction de la reconnaissance faciale

Près de 80% des candidat·e·x·s aux élections fédérales sont favorables à une interdiction de la reconnaissance faciale automatisée dans l’espace public. Tous les partis excepté l’UDC rejettent cette forme de surveillance de masse. L’alliance «Protégeons nos droits fondamentaux, non à la reconnaissance faciale» salue le résultat sans équivoque de l’enquête smartvote.

Communiqué de presse

Intelligence artificielle: en Suisse, les algorithmes discriminent en toute impunité

Dans sa nouvelle prise de position, l'organisation de défense des droits humains AlgorithmWatch CH critique le droit suisse contre la discrimination, qui présente des lacunes évidentes en matière de protection contre la discrimination par les algorithmes. Le papier de position montre de manière détaillée comment l’Intelligence artificielle et d'autres systèmes algorithmiques peuvent conduire à de nouvelles formes de discrimination. AlgorithmWatch CH demande donc une extension du cadre juridique contre la discrimination, notamment par une interdiction générale de la discrimination pour les privés ainsi que par l’introduction de procédures de recours collectifs.

Papier de position

Discrimination par des algorithmes: comment assurer la protection?

Lorsque des algorithmes font des pronostics, donnent des recommandations ou prennent des décisions, il y a toujours un risque qu’ils discriminent des personnes. Mais comment les algorithmes discriminent-ils exactement? Et que devrait faire la politique pour y remédier? Nous montrons la nécessité d’agir et proposons des solutions pour renforcer la protection contre la discrimination algorithmique.

Communiqué de presse

Plusieurs villes et cantons veulent interdire la reconnaissance faciale

La reconnaissance faciale automatisée doit être interdite dans l’espace public. C’est ce que réclament plusieurs interventions parlementaires dans des villes et cantons suisses. La campagne d’AlgorithmWatch CH, Amnesty International et Société Numérique pour une interdiction de la surveillance biométrique de masse montre des résultats concrets.

Atlas de l’automatisation

Pour détecter les fraudes aux prestations sociales, mesurer les performances au travail, prédire la solvabilité d'une personne ou nous afficher des contenus personnalisés en ligne - les algorithmes et ce que l'on appelle «Intelligence artificielle» façonnent aujourd'hui notre quotidien. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Communiqué de presse

‹IA› et algorithmes en Suisse: éclairage sur cette boîte noire

Les systèmes algorithmiques et l’Intelligence artificielle (IA) sont actuellement sur toutes les lèvres. Pendant que tout le monde parle de ChatGPT, on oublie que l'automatisation est déjà largement étendue en Suisse: de plus en plus de décisions concernant les personnes sont influencées par des algorithmes. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.