#publicsector (25 résultats)

Explication

Montre ton visage et l’IA dira qui tu es

Les technologies de reconnaissance biométrique permettent d’identifier et de surveiller des personnes. Elles sont censées renforcer la sécurité, mais elles discriminent, menacent les droits fondamentaux et peuvent même conduire à de la surveillance de masse.

Prise de position

La stratégie sur l’IA dans l’administration fédérale est une pièce du puzzle

Le Conseil fédéral a publié vendredi dernier sa stratégie partielle pour l'utilisation de l'intelligence artificielle dans l'administration fédérale. Cette stratégie constitue une pièce de puzzle importante de l'élaboration de conditions-cadres pour l'IA. Elle doit toutefois se concrétiser dans un plan de mise en œuvre. Ce n'est qu'alors que nous pourrons voir si et comment l'IA est utilisée de manière responsable dans l'administration. Nous présentons brièvement ci-dessous les éléments dont l'administration fédérale devrait tenir compte dans ce contexte.

Explication

L’administration algorithmique: décisions automatisées dans le secteur public

L'automatisation de l’administration publique promet plus d’efficacité. Elle peut toutefois désavantager de nombreuses personnes, comme en témoignent des exemples à travers toute l’Europe. Dans ce guide, nous expliquons pourquoi la mise en œuvre de systèmes algorithmiques au sein des administrations publiques se révèle particulièrement délicate et comment les risques pourraient être identifiés à un stade précoce.

Papier de position

Quelle IA voulons-nous? Conditions-cadres pour les algorithmes et l’Intelligence artificielle

Le Conseil fédéral analyse d'ici fin 2024 les besoins de réglementation en lien avec l'IA et prendra sur cette base d'éventuelles mesures l'année prochaine. Nous résumons ici les éléments que le Conseil fédéral et le Parlement devraient prendre en compte du point de vue des droits fondamentaux, de la démocratie et de la durabilité.

Projet «HUMAN»

Les humains doivent s’assurer que l’IA soit au service des humains

Lorsque la police tente de calculer la probabilité de récidive des délinquant·e·s à l'aide d'algorithmes, lorsque les employeurs prétrient les candidatures à l'aide de l'IA ou quand un chatbot d’IA rédige des articles de presse: qui est concerné·e par ces contenus, recommandations et décisions générés par des algorithmes? Et comment les personnes concernées peuvent-elles être impliquées afin de garantir leurs droits et leurs intérêts?

En bref

Comment les algorithmes discriminent, et ce que nous devrions faire pour y remédier

Dans le secteur public comme dans le secteur privé, le recours à des systèmes basés sur des algorithmes ou sur l’intelligence artificielle (IA) est de plus en plus fréquent, notamment pour établir des pronostics, formuler des recommandations ou prendre des décisions. Toutefois, leur utilisation peut entraîner des discriminations. En l’état actuel, le droit suisse en matière d’interdiction de la discrimination est insuffisant et doit être renforcé afin de protéger contre la discrimination algorithmique. Cette problématique se fraie aujourd’hui un chemin sur le plan politique.

Communiqué de presse

Appel de la société civile: pas d’attentisme dans la réglementation de l’IA et des systèmes de prise de décision automatisée

La Société Numérique, Pour Demain, AlgorithmWatch CH, CH++ et opendata.ch demandent que la réglementation de l'Intelligence artificielle et des systèmes de prise de décision automatisée aille de l'avant en Suisse. Selon ces organisations, un cadre légal est nécessaire pour assurer la sécurité juridique de ces nouvelles technologies et l'innovation orientée vers l'intérêt général.

Position

Décisions automatisées dans le secteur public: quelques recommandations

Les administrations publiques utilisent de plus en plus de systèmes basés sur des algorithmes ou l’IA pour soutenir ou prendre des décisions. Les autorités ont une responsabilité particulière vis-à-vis des personnes concernées par ces décisions. C'est pourquoi, les autorités doivent, en premier lieu, s'assurer que leur utilisation est transparente et compréhensible, par exemple par le biais de registres publics et d’analyses d'impact obligatoires.

Communiqué de presse

Questionnaire smartvote: une forte majorité pour l’interdiction de la reconnaissance faciale

Près de 80% des candidat·e·x·s aux élections fédérales sont favorables à une interdiction de la reconnaissance faciale automatisée dans l’espace public. Tous les partis excepté l’UDC rejettent cette forme de surveillance de masse. L’alliance «Protégeons nos droits fondamentaux, non à la reconnaissance faciale» salue le résultat sans équivoque de l’enquête smartvote.

Mis en lumière

Un patchwork algorithmique dans les administrations suisses

Les administrations publiques utilisent des systèmes algorithmiques qui ont une influence sur les décisions concernant les individus. Où et pourquoi sont-ils utilisés? Nous avons posé cette question aux 26 chancelleries cantonales et analysé leurs réponses. Spoiler: de nombreux cantons ne sont pas en mesure de fournir des informations complètes sur les systèmes qu'ils utilisent.

Communiqué de presse

Intelligence artificielle: en Suisse, les algorithmes discriminent en toute impunité

Dans sa nouvelle prise de position, l'organisation de défense des droits humains AlgorithmWatch CH critique le droit suisse contre la discrimination, qui présente des lacunes évidentes en matière de protection contre la discrimination par les algorithmes. Le papier de position montre de manière détaillée comment l’Intelligence artificielle et d'autres systèmes algorithmiques peuvent conduire à de nouvelles formes de discrimination. AlgorithmWatch CH demande donc une extension du cadre juridique contre la discrimination, notamment par une interdiction générale de la discrimination pour les privés ainsi que par l’introduction de procédures de recours collectifs.

Papier de position

Discrimination par des algorithmes: comment assurer la protection?

Lorsque des algorithmes font des pronostics, donnent des recommandations ou prennent des décisions, il y a toujours un risque qu’ils discriminent des personnes. Mais comment les algorithmes discriminent-ils exactement? Et que devrait faire la politique pour y remédier? Nous montrons la nécessité d’agir et proposons des solutions pour renforcer la protection contre la discrimination algorithmique.

Communiqué de presse

Plusieurs villes et cantons veulent interdire la reconnaissance faciale

La reconnaissance faciale automatisée doit être interdite dans l’espace public. C’est ce que réclament plusieurs interventions parlementaires dans des villes et cantons suisses. La campagne d’AlgorithmWatch CH, Amnesty International et Société Numérique pour une interdiction de la surveillance biométrique de masse montre des résultats concrets.

Atlas de l’automatisation

Pour détecter les fraudes aux prestations sociales, mesurer les performances au travail, prédire la solvabilité d'une personne ou nous afficher des contenus personnalisés en ligne - les algorithmes et ce que l'on appelle «Intelligence artificielle» façonnent aujourd'hui notre quotidien. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Communiqué de presse

‹IA› et algorithmes en Suisse: éclairage sur cette boîte noire

Les systèmes algorithmiques et l’Intelligence artificielle (IA) sont actuellement sur toutes les lèvres. Pendant que tout le monde parle de ChatGPT, on oublie que l'automatisation est déjà largement étendue en Suisse: de plus en plus de décisions concernant les personnes sont influencées par des algorithmes. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Fedpol veut déployer la reconnaissance faciale – par la petite porte

Début avril, le Conseil fédéral a accepté que l'Office fédéral de la police (Fedpol) renouvelle son système d'identification automatisée. Mais le nouveau système offre également de nouvelles possibilités d'analyse d'images, qui soulèvent des questions relatives aux droits fondamentaux.

En bref

Le Conseil de l’Europe instaure un cadre pour l’Intelligence artificielle

Outre l'UE, le Conseil de l'Europe à Strasbourg réglemente également l’Intelligence artificielle avec la Convention sur l’IA, le premier traité international sur l’IA. Dans ce guide, nous expliquons ce que cela implique, pourquoi c'est important pour nous touxtes et quelles sont les prochaines étapes.

La reconnaissance biométrique dans les lieux publics – une menace pour les droits humains

Dans les aéroports, les stades de foot ou dans le cadre de poursuite pénale, la reconnaissance faciale et d’autres systèmes de reconnaissance biométrique sont de plus en plus employés en Suisse. Lorsqu’ils sont utilisés à des fins d’identification dans les lieux accessibles au public, ces systèmes sont incompatibles avec les droits fondamentaux et les droits humains, notamment le droit à la sphère privée, la liberté d’expression et de rassemblement, et l’interdiction de discriminer.

Interdire maintenant la reconnaissance biométrique

La reconnaissance biométrique dans l'espace public menace nos droits fondamentaux et les principes démocratiques fondamentaux. Dans ce contexte, nous nous engageons pour une interdiction. Dans notre prise de position, nous expliquons les défis que posent les systèmes de reconnaissance biométrique dans l'espace public, ce que cela signifie pour nos droits fondamentaux et pour quelles raisons une interdiction est indiquée. Sur cette base, nous formulons des exigences et des recommandations d'action à l'attention des politiques et des autorités.

Succès: Lausanne interdit la reconnaissance faciale dans l’espace public!

Le Conseil communal de Lausanne a adopté le 28 mars 2023 à l’unanimité des interventions parlementaires visant à interdire la vidéosurveillance avec reconnaissance biométrique. Lausanne devrait ainsi devenir la première ville de Suisse romande à interdire la reconnaissance faciale & co. dans l’espace public.

Communiqué de presse

Lettre ouverte remise aux CFF avec 17069 signatures

AlgorithmWatch CH et la Société numérique ont remis aujourd'hui une lettre ouverte aux CFF. Au nom de 17'069 personnes et de seize organisations de la société civile et partis politiques, elles protestent ainsi contre le projet initial des CFF de mettre en place un système de mesure pour la surveillance étendue des voyageuses et voyageurs dans plus de 50 gares.

Communiqué de presse

Surveillance des gares CFF: l’opposition de la société civile porte ses fruits

Les CFF ont annoncé aujourd'hui qu'ils renonçaient à classer les voyageuses et voyageurs dans les gares en fonction de leurs données biométriques et à utiliser ces données à des fins commerciales. Nous saluons l'annonce des CFF, mais nous maintiendrons la pression et continuerons à surveiller de près les CFF afin qu'ils n'utilisent pas à l'avenir des méthodes de surveillance qui ne sont pas compatibles avec les droits fondamentaux.

Communiqué de presse

Pas de surveillance de masse dans les gares suisses!

Les CFF veulent étendre largement la surveillance des voyageuses et voyageurs dans plus de 50 gares, entre autres à des fins commerciales. La surveillance se fera probablement aussi au moyen de l'analyse biométrique de nos visages. Nous nous y opposons dans une lettre ouverte.

Grands succès pour l’interdiction de la reconnaissance faciale automatisée dans l’espace public

Notre engagement contre la surveillance biométrique de masse a été couronné de succès: dans de nombreuses villes et quelques cantons, nous avons lancé le débat politique sur l'interdiction de la reconnaissance faciale automatisée. Une motion dans ce sens vient d'être déposée dans le canton de Zurich. Des villes comme Saint-Gall ou Zurich montrent même l'exemple et ont déjà décidé d'une telle interdiction.

Prise de position: Un cadre juridique pour l’intelligence artificielle

AlgorithmWatch Suisse a co-rédigé un document de position sur la réglementation des systèmes d'IA en Suisse. Le document a été rédigé en collaboration avec un consortium interdisciplinaire d'universitaires et est soutenu par le DSI Strategy Lab (Université de Zurich).