#publicsector (25 résultats)

Base conceptuelle et juridique

Transparence et compréhensibilité lors de l’utilisation de l’IA dans les cantons

AlgorithmWatch CH examine, en collaboration avec le centre de recherche e-PIAF de l'Université de Bâle, comment les cantons peuvent garantir une utilisation responsable des algorithmes et de l'IA. Cette étude élabore des bases conceptuelles et juridiques et est réalisée sur mandat de la Conférence des gouvernements cantonaux (CdC).

Guide

Réglementation de l’IA: que fait la Suisse?

En Suisse, il est de plus en plus question de réglementer l'IA. Dans ce guide, nous mettons en lumière les développements politiques actuels.

Prise de position

L’e-ID, un modèle de processus de réglementation participatif

L'approche participative derrière la nouvelle e-ID montre que la participation devrait devenir la norme dans les processus législatifs liés à la politique numérique. En effet, d'autres projets, tels que la réglementation de l'IA, en bénéficieraient également.

Recommandations

Utilisation responsable des algorithmes et de l’IA dans l’administration publique

Les administrations publiques utilisent de plus en plus des systèmes algorithmiques ou basés sur l'IA pour soutenir la prise de décision ou pour prendre des décisions. Pour le faire de manière responsable, il faut un cadre clair. Nous résumons ici à quoi celui-ci pourrait ressembler.

Explication

Police algorithmique: présomption de culpabilité anticipée

La police algorithmique consiste à prédire de manière prétendument algorithmique, sur la base de données criminelles historiques, qui commettra quelles infractions à l’avenir. Nous expliquons ici pourquoi une telle pratique s’avère souvent discriminatoire, juridiquement discutable et loin d’être aussi efficace qu’on le prétend.

Publication

Utiliser l’IA de manière responsable: notre outil d’analyse d’impact

Les systèmes algorithmiques et basés sur l’IA peuvent avoir des répercussions éthiques sur les personnes. Quiconque les utilise endosse donc une responsabilité particulière. L’outil d’analyse d’impact développé par AlgorithmWatch aide à assumer cette responsabilité et donne les moyens de le faire.

Briefing

Quand les algorithmes et l’IA (co)décident: protéger les droits fondamentaux

Le Conseil fédéral veut ratifier la Convention sur l’intelligence artificielle du Conseil de l'Europe. Nous présentons dans un nouveau briefing les éléments à prendre en compte lors de la réglementation de l'IA, afin que les algorithmes et l'IA soient utilisés de manière compréhensible, responsable et dans le respect des droits fondamentaux lorsqu'ils influencent des décisions concernant des personnes.

Explication

Montre ton visage et l’IA dira qui tu es

Les technologies de reconnaissance biométrique permettent d’identifier et de surveiller des personnes. Elles sont censées renforcer la sécurité, mais elles discriminent, menacent les droits fondamentaux et peuvent même conduire à de la surveillance de masse.

Prise de position

La stratégie sur l’IA dans l’administration fédérale est une pièce du puzzle

Le Conseil fédéral a publié vendredi dernier sa stratégie partielle pour l'utilisation de l'intelligence artificielle dans l'administration fédérale. Cette stratégie constitue une pièce de puzzle importante de l'élaboration de conditions-cadres pour l'IA. Elle doit toutefois se concrétiser dans un plan de mise en œuvre. Ce n'est qu'alors que nous pourrons voir si et comment l'IA est utilisée de manière responsable dans l'administration. Nous présentons brièvement ci-dessous les éléments dont l'administration fédérale devrait tenir compte dans ce contexte.

Explication

L’administration algorithmique: décisions automatisées dans le secteur public

L'automatisation de l’administration publique promet plus d’efficacité. Elle peut toutefois désavantager de nombreuses personnes, comme en témoignent des exemples à travers toute l’Europe. Dans ce guide, nous expliquons pourquoi la mise en œuvre de systèmes algorithmiques au sein des administrations publiques se révèle particulièrement délicate et comment les risques pourraient être identifiés à un stade précoce.

Papier de position

Quelle IA voulons-nous? Conditions-cadres pour les algorithmes et l’Intelligence artificielle

Le Conseil fédéral analyse d'ici fin 2024 les besoins de réglementation en lien avec l'IA et prendra sur cette base d'éventuelles mesures l'année prochaine. Nous résumons ici les éléments que le Conseil fédéral et le Parlement devraient prendre en compte du point de vue des droits fondamentaux, de la démocratie et de la durabilité.

Projet «HUMAN»

HUMAN – un pas de plus vers une utilisation responsable de l’IA

Lorsque la police tente de calculer la probabilité de récidive des délinquant·e·s à l’aide d’algorithmes, lorsque les employeurs font un premier tri des candidatures à l’aide de l’IA ou lorsqu’un agent conversationnel basé sur l’IA rédige des articles de presse: qui est concerné·e par ces contenus, recommandations et décisions générés par des algorithmes? Comment les personnes concernées peuvent-elles être impliquées afin de garantir le respect de leurs droits et la préservation de leurs intérêts?

En bref

Comment les algorithmes discriminent, et ce que nous devrions faire pour y remédier

Dans le secteur public comme dans le secteur privé, le recours à des systèmes basés sur des algorithmes ou sur l’intelligence artificielle (IA) est de plus en plus fréquent, notamment pour établir des pronostics, formuler des recommandations ou prendre des décisions. Toutefois, leur utilisation peut entraîner des discriminations. En l’état actuel, le droit suisse en matière d’interdiction de la discrimination est insuffisant et doit être renforcé afin de protéger contre la discrimination algorithmique. Cette problématique se fraie aujourd’hui un chemin sur le plan politique.

Communiqué de presse

Appel de la société civile: pas d’attentisme dans la réglementation de l’IA et des systèmes de prise de décision automatisée

La Société Numérique, Pour Demain, AlgorithmWatch CH, CH++ et opendata.ch demandent que la réglementation de l'Intelligence artificielle et des systèmes de prise de décision automatisée aille de l'avant en Suisse. Selon ces organisations, un cadre légal est nécessaire pour assurer la sécurité juridique de ces nouvelles technologies et l'innovation orientée vers l'intérêt général.

Communiqué de presse

Questionnaire smartvote: une forte majorité pour l’interdiction de la reconnaissance faciale

Près de 80% des candidat·e·x·s aux élections fédérales sont favorables à une interdiction de la reconnaissance faciale automatisée dans l’espace public. Tous les partis excepté l’UDC rejettent cette forme de surveillance de masse. L’alliance «Protégeons nos droits fondamentaux, non à la reconnaissance faciale» salue le résultat sans équivoque de l’enquête smartvote.

Mis en lumière

Un patchwork algorithmique dans les administrations suisses

Les administrations publiques utilisent des systèmes algorithmiques qui ont une influence sur les décisions concernant les individus. Où et pourquoi sont-ils utilisés? Nous avons posé cette question aux 26 chancelleries cantonales et analysé leurs réponses. Spoiler: de nombreux cantons ne sont pas en mesure de fournir des informations complètes sur les systèmes qu'ils utilisent.

Communiqué de presse

Intelligence artificielle: en Suisse, les algorithmes discriminent en toute impunité

Dans sa nouvelle prise de position, l'organisation de défense des droits humains AlgorithmWatch CH critique le droit suisse contre la discrimination, qui présente des lacunes évidentes en matière de protection contre la discrimination par les algorithmes. Le papier de position montre de manière détaillée comment l’Intelligence artificielle et d'autres systèmes algorithmiques peuvent conduire à de nouvelles formes de discrimination. AlgorithmWatch CH demande donc une extension du cadre juridique contre la discrimination, notamment par une interdiction générale de la discrimination pour les privés ainsi que par l’introduction de procédures de recours collectifs.

Papier de position

Discrimination par des algorithmes: comment assurer la protection?

Lorsque des algorithmes font des pronostics, donnent des recommandations ou prennent des décisions, il y a toujours un risque qu’ils discriminent des personnes. Mais comment les algorithmes discriminent-ils exactement? Et que devrait faire la politique pour y remédier? Nous montrons la nécessité d’agir et proposons des solutions pour renforcer la protection contre la discrimination algorithmique.

Communiqué de presse

Plusieurs villes et cantons veulent interdire la reconnaissance faciale

La reconnaissance faciale automatisée doit être interdite dans l’espace public. C’est ce que réclament plusieurs interventions parlementaires dans des villes et cantons suisses. La campagne d’AlgorithmWatch CH, Amnesty International et Société Numérique pour une interdiction de la surveillance biométrique de masse montre des résultats concrets.

Atlas de l’automatisation

Pour détecter les fraudes aux prestations sociales, mesurer les performances au travail, prédire la solvabilité d'une personne ou nous afficher des contenus personnalisés en ligne - les algorithmes et ce que l'on appelle «Intelligence artificielle» façonnent aujourd'hui notre quotidien. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Communiqué de presse

‹IA› et algorithmes en Suisse: éclairage sur cette boîte noire

Les systèmes algorithmiques et l’Intelligence artificielle (IA) sont actuellement sur toutes les lèvres. Pendant que tout le monde parle de ChatGPT, on oublie que l'automatisation est déjà largement étendue en Suisse: de plus en plus de décisions concernant les personnes sont influencées par des algorithmes. Mais où, par qui et dans quel but ces derniers sont utilisés reste en grande partie une boîte noire. Avec l'Atlas de l'automatisation, AlgorithmWatch CH apporte un éclairage sur le sujet - et publie un aperçu des systèmes algorithmiques utilisés en Suisse.

Prise de position

Fedpol veut déployer la reconnaissance faciale – par la petite porte

Début avril, le Conseil fédéral a accepté que l'Office fédéral de la police (Fedpol) renouvelle son système d'identification automatisée. Mais le nouveau système offre également de nouvelles possibilités d'analyse d'images, qui soulèvent des questions relatives aux droits fondamentaux.

En bref

Le Conseil de l’Europe instaure un cadre pour l’Intelligence artificielle

Outre l'UE, le Conseil de l'Europe à Strasbourg réglemente également l’Intelligence artificielle avec la Convention sur l’IA, le premier traité international sur l’IA. Dans ce guide, nous expliquons ce que cela implique, pourquoi c'est important pour nous touxtes et quelles sont les prochaines étapes.

La reconnaissance biométrique dans les lieux publics – une menace pour les droits humains

Dans les aéroports, les stades de foot ou dans le cadre de poursuite pénale, la reconnaissance faciale et d’autres systèmes de reconnaissance biométrique sont de plus en plus employés en Suisse. Lorsqu’ils sont utilisés à des fins d’identification dans les lieux accessibles au public, ces systèmes sont incompatibles avec les droits fondamentaux et les droits humains, notamment le droit à la sphère privée, la liberté d’expression et de rassemblement, et l’interdiction de discriminer.

Interdire maintenant la reconnaissance biométrique

La reconnaissance biométrique dans l'espace public menace nos droits fondamentaux et les principes démocratiques fondamentaux. Dans ce contexte, nous nous engageons pour une interdiction. Dans notre prise de position, nous expliquons les défis que posent les systèmes de reconnaissance biométrique dans l'espace public, ce que cela signifie pour nos droits fondamentaux et pour quelles raisons une interdiction est indiquée. Sur cette base, nous formulons des exigences et des recommandations d'action à l'attention des politiques et des autorités.