#publicsphere (30 résultats)

HUMAN

Les humains doivent s’assurer que l’IA soit au service des humains

Lorsque la police tente de calculer la probabilité de récidive des délinquant·e·s à l'aide d'algorithmes, lorsque les employeurs prétrient les candidatures à l'aide de l'IA ou quand un chatbot d’IA rédige des articles de presse : qui est concerné·e par ces contenus, recommandations et décisions générés par des algorithmes ? Et comment les personnes concernées peuvent-elles être impliquées afin de garantir leurs droits et leurs intérêts ?

Communiqué de presse

Étude : recherche Microsoft basée sur l’IA avant les élections suisses – un dangereux manque de fiabilité

Les personnes qui s'informent sur Bing Chat avant des élections, comme lors des récentes élections au Conseil fédéral, doivent s'attendre à des réponses trompeuses, erronées et unilatérales. Le moteur de recherche de Microsoft avec fonction chatbot intégrée invente des scandales et réinvente parfois la composition du Conseil fédéral. C'est ce que montre une étude conduite par AlgorithmWatch et AI Forensics sur les élections en Suisse, en Bavière et en Hesse en octobre 2023, dont le rapport final est désormais disponible. Microsoft ne semble pas avoir de solution à ce problème.

Rapport final : recherche sur Microsoft Bing Chat

Le chatbot d’IA fournit des réponses erronées aux questions sur les élections démocratiques

Bing Chat, le chatbot d’IA intégré au moteur de recherche Bing de Microsoft, invente des scandales, imagine des valeurs de sondage et indique de fausses dates d'élections. Microsoft ne semble pas être en mesure ou ne pas souhaiter remédier à ce problème. C'est ce que montre une étude menée par AlgorithmWatch et AI Forensics, dont le rapport final est désormais disponible. Nous y avons analysé le comportement de réponse du chatbot pour les élections en Suisse, en Bavière et en Hesse en octobre 2023.

Communiqué de presse

Appel de la société civile : pas d’attentisme dans la réglementation de l’IA et des systèmes de prise de décision automatisée

Société Numérique, Pour Demain, AlgorithmWatch CH, CH++ et opendata.ch demandent que la réglementation de l'Intelligence artificielle et des systèmes de prise de décision automatisée aille de l'avant en Suisse. Selon ces organisations, un cadre légal est nécessaire pour assurer la sécurité juridique de ces nouvelles technologies et l'innovation orientée vers l'intérêt général.

Résultats intermédiaires : recherche sur Microsoft Bing Chat

Grands modèles linguistiques d’IA dans le contexte des élections

Avec quelle fiabilité le chatbot du moteur de recherche Bing de Microsoft répond-il aux questions sur les élections à venir en Suisse, en Bavière et en Hesse ? Notre recherche le montre : le grand modèle linguistique GPT-4 qui le sous-tend génère et diffuse des informations inventées et trompeuses. Cela pourrait devenir un problème pour la démocratie.

Élections 2023

Comment ChatGPT, Bing Chat & Co. pourraient menacer la formation de l’opinion publique

S’informer sur comment voter à l’aide de modèles linguistiques d’IA tel que Bing Chat est une très mauvaise idée. C’est en effet ce que mettent en évidence les résultats d’une analyse menée par AlgorithmWatch et AI Forensics en collaboration avec la RTS et la SRF dans le cadre des élections fédérales en Suisse, ainsi que des élections régionales en Bavière et dans la Hesse. Ces grands modèles de langage apportent à des questions importantes des réponses parfois complètement erronées, en partie mensongères, incomplètes ou obsolètes. Bing Chat, ChatGPT et Co. peuvent ainsi constituer une menace pour la formation de l’opinion publique dans une démocratie.

Communiqué de presse

Questionnaire smartvote : Une forte majorité pour l’interdiction de la reconnaissance faciale

Près de 80 % des candidat·e·x·s aux élections fédérales sont favorables à une interdiction de la reconnaissance faciale automatisée dans l’espace public. Tous les partis excepté l’UDC rejettent cette forme de surveillance de masse. L’alliance « Protégeons nos droits fondamentaux, non à la reconnaissance faciale » salue le résultat sans équivoque de l’enquête smartvote.

Communiqué de presse

Intelligence artificielle : en Suisse, les algorithmes discriminent en toute impunité

Dans sa nouvelle prise de position, l'organisation de défense des droits humains AlgorithmWatch CH critique le droit suisse contre la discrimination, qui présente des lacunes évidentes en matière de protection contre la discrimination par les algorithmes. Le papier de position montre de manière détaillée comment l’Intelligence artificielle et d'autres systèmes algorithmiques peuvent conduire à de nouvelles formes de discrimination. AlgorithmWatch CH demande donc une extension du cadre juridique contre la discrimination, notamment par une interdiction générale de la discrimination pour les privés ainsi que par l’introduction de procédures de recours collectifs.

Papier de position

Discrimination par des algorithmes : comment assurer la protection ?

Lorsque des algorithmes font des pronostics, donnent des recommandations ou prennent des décisions, il y a toujours un risque qu’ils discriminent des personnes. Mais comment les algorithmes discriminent-ils exactement ? Et que devrait faire la politique pour y remédier ? Nous montrons la nécessité d’agir et proposons des solutions pour renforcer la protection contre la discrimination algorithmique.

Communiqué de presse

Plusieurs villes et cantons veulent interdire la reconnaissance faciale

La reconnaissance faciale automatisée doit être interdite dans l’espace public. C’est ce que réclament plusieurs interventions parlementaires dans des villes et cantons suisses. La campagne d’AlgorithmWatch CH, Amnesty International et Société Numérique pour une interdiction de la surveillance biométrique de masse montre des résultats concrets.

Atlas de l’automatisation

Pour détecter les fraudes aux prestations sociales, mesurer les performances au travail, prédire la solvabilité d'une personne ou nous afficher des contenus personnalisés en ligne - les algorithmes et ce que l'on appelle “Intelligence Artificielle" façonnent aujourd'hui notre quotidien. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Communiqué de presse

‹IA› et algorithmes en Suisse : éclairage sur cette boîte noire

Les systèmes algorithmiques et l’Intelligence Artificielle (IA) sont actuellement sur toutes les lèvres. Pendant que tout le monde parle de ChatGPT, on oublie que l'automatisation est déjà largement étendue en Suisse : de plus en plus de décisions concernant les personnes sont influencées par des algorithmes. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Wanted : des règles du jeu pour l’IA dans la campagne électorale

Des systèmes d’«intelligence artificielle» disponibles en ligne permettent aujourd'hui de générer en quelques secondes de nouveaux contenus, sous la forme d’images ou de textes. Ceux-ci peuvent également être utilisés de manière stratégique à des fins politiques. En collaboration avec l'agence Feinheit, AlgorithmWatch CH appelle les partis suisses à identifier clairement ces contenus lors de la campagne électorale à venir - et à ne pas les utiliser de manière négative dans la campagne.

Fedpol veut déployer la reconnaissance faciale – par la petite porte

Début avril, le Conseil fédéral a accepté que l'Office fédéral de la police (Fedpol) renouvelle son système d'identification automatisée. Mais le nouveau système offre également de nouvelles possibilités d'analyse d'images, qui soulèvent des questions relatives aux droits fondamentaux.

En bref

Le Conseil de l’Europe instaure un cadre pour l’Intelligence artificielle

Outre l'UE, le Conseil de l'Europe à Strasbourg réglemente également l’Intelligence artificielle avec la Convention sur l’IA, le premier traité international sur l’IA. Dans ce guide, nous expliquons ce que cela implique, pourquoi c'est important pour nous touxtes et quelles sont les prochaines étapes.

La reconnaissance biométrique dans les lieux publics – une menace pour les droits humains

Dans les aéroports, les stades de foot ou dans le cadre de poursuite pénale, la reconnaissance faciale et d’autres systèmes de reconnaissance biométrique sont de plus en plus employés en Suisse. Lorsqu’ils sont utilisés à des fins d’identification dans les lieux accessibles au public, ces systèmes sont incompatibles avec les droits fondamentaux et les droits humains, notamment le droit à la sphère privée, la liberté d’expression et de rassemblement, et l’interdiction de discriminer.

Communiqué de presse

Le Conseil fédéral donne (enfin) le coup d’envoi de la régulation de Facebook, Twitter & Co.

Le Conseil fédéral a tenu mercredi dernier une discussion sur la régulation des plateformes de communication en ligne. AlgorithmWatch CH salue ce premier pas et fait, en collaboration avec des organisations de la société civile, des propositions pour une réglementation équilibrée et pertinente.

Guide

Régulation des plateformes : que fait la Suisse ?

Alors que l'Union européenne (UE) a déjà décidé de réglementer les plateformes en ligne, la Suisse hésite encore à s'atteler à la tâche. Dans cet article, nous mettons en lumière les développements politiques actuels.

Communiqué de presse

Lettre ouverte remise aux CFF avec 17069 signatures

AlgorithmWatch CH et la Société numérique ont remis aujourd'hui une lettre ouverte aux CFF. Au nom de 17'069 personnes et de seize organisations de la société civile et partis politiques, elles protestent ainsi contre le projet initial des CFF de mettre en place un système de mesure pour la surveillance étendue des voyageuses et voyageurs dans plus de 50 gares.

Communiqué de presse

Surveillance des gares CFF : L’opposition de la société civile porte ses fruits

Les CFF ont annoncé aujourd'hui qu'ils renonçaient à classer les voyageuses et voyageurs dans les gares en fonction de leurs données biométriques et à utiliser ces données à des fins commerciales. Nous saluons l'annonce des CFF, mais nous maintiendrons la pression et continuerons à surveiller de près les CFF afin qu'ils n'utilisent pas à l'avenir des méthodes de surveillance qui ne sont pas compatibles avec les droits fondamentaux.

France : le projet de loi relatif aux jeux Olympiques et Paralympiques de 2024 menace les droits humains

Le projet de loi relatif aux jeux Olympiques et Paralympiques de 2024 actuellement en discussion en France légitimerait l'utilisation de vidéosurveillance algorithmique intrusive sous prétexte de «sécuriser les grands événements». Cette nouvelle loi française créerait une base légale pour scanner les espaces publics afin de détecter des événements suspects spécifiques.

Communiqué de presse

Pas de surveillance de masse dans les gares suisses !

Les CFF veulent étendre largement la surveillance des voyageuses et voyageurs dans plus de 50 gares, entre autres à des fins commerciales. La surveillance se fera probablement aussi au moyen de l'analyse biométrique de nos visages. Nous nous y opposons dans une lettre ouverte.

Grands succès pour l’interdiction de la reconnaissance faciale automatisée dans l’espace public

Notre engagement contre la surveillance biométrique de masse a été couronné de succès : dans de nombreuses villes et quelques cantons, nous avons lancé le débat politique sur l'interdiction de la reconnaissance faciale automatisée. Une motion dans ce sens vient d'être déposée dans le canton de Zurich. Des villes comme Saint-Gall ou Zurich montrent même l'exemple et ont déjà décidé d'une telle interdiction.

Les algorithmes dans le discours public suisse

AlgorithmWatch Suisse a commandé une étude sur la perception du public des systèmes ADM. L'étude a été réalisée dans le cadre d'un cours Capstone de l'Institut de sciences politiques de l'Université de Zurich.

Communiqué de presse

Plus de 10 000 personnes contre la reconnaissance faciale automatisée !

L’alliance « Stop à la reconnaissance faciale » a adressé cette semaine une pétition aux autorités contre la reconnaissance faciale automatisée. Plus de 10 000 signataires réclament une interdiction de la surveillance massive par des systèmes de reconnaissance biométrique.