Bienvenue en Suisse, AlgorithmWatch

Imaginez. Vous vivez dans une ville de Suisse. Vous et votre famille êtes très heureux que votre enfant, qui vient d’avoir six ans, entre à l’école à la rentrée prochaine. Cependant, votre maison se situe entre deux écoles et vous ne savez pas quelle est celle où votre enfant ira. Pire encore, vous ne pouvez pas décider dans laquelle de ces écoles votre enfant ira car un système de prise de décision automatisée (automated decision making, ADM) pourrait bientôt décider à votre place.

Peut-être que les deux écoles ont des réputations très différentes et peut-être que les élèves proviennent de milieux sociaux et ethniques très différents. Vous discutez avec d'autres parents sur les mérites respectifs de chaque école parce que, comme eux, vous voulez aussi le meilleur pour votre enfant.

Pour certains, «le meilleur» pourrait signifier l’école qui a un taux plus élevé d’élèves qui poursuivent des études supérieures. Pour d’autres, de bons cours d’arts plastiques pourrait être une priorité. Ou peut-être que la popularité des enseignants pourrait être un facteur déterminant. Les opinions des parents seront différentes, comme elles le sont toujours lorsqu'il s'agit d'enfants.

Plusieurs études ont montré qu’indépendamment de l’origine de l’enfant, la ségrégation scolaire des enfants en fonction de leur origine sociale et ethnique affecte les performances. Un système d'ADM a été développé en Suisse (il n’a pas encore été mis en œuvre) pour affecter les élèves aux écoles primaires d'une manière qui mélange autant que possible des enfants de différents milieux. Le système prendra également en compte la distance entre la maison et l'école, le nombre de places et de salles de classe disponibles et le personnel enseignant de chaque école.

Théoriquement, cette combinaison de facteurs devrait contribuer à assurer une éducation inclusive, équitable et de haute qualité pour tous les enfants. En outre, un mélange diversifié d'origines sociales et ethniques contribuerait sans doute à renforcer la cohérence sociale et à accroître la diversité culturelle dès le plus jeune âge, ce qui pourrait s'avérer utile pour l'avenir de votre enfant dans un monde globalisé. À première vue, cela ressemble beaucoup à quelque chose que la plupart des parents pourraient soutenir.

Cependant, certains parents pourraient ne pas être heureux de confier cette décision à un système algorithmique. Ils pourraient penser que cet arrangement désavantagerait leur enfant. Ils pourraient prétendre que l’éducation de leur enfant en pâtira, que leurs notes baisseront et, par la suite, que leurs avenir scolaire sera menacé. L'utilisation d'ADM soulève également des questions politiques, y compris des questions sur les implications sociétales de l'utilisation de tels algorithmes dans le système éducatif.

Il ne s'agit là que d'un exemple d'un système de prise de décision automatisé en cours de développement en Suisse (lire notre article). Il y en a beaucoup d'autres. À chaque fois, la mise en œuvre de ces systèmes comporte des opportunités et des risques.

Comme on peut le voir dans le chapitre « Suisse » du rapport Automating Society 2020, les systèmes ADM ont un impact croissant sur de nombreux aspects de la vie suisse. Cependant, la structure fédérale unique de la Suisse signifie que la mise en œuvre de ces systèmes d'ADM est soumise à un large éventail de cadres juridiques.

C'est là qu'intervient AlgorithmWatch.

En tant qu'organisation de recherche et de plaidoyer, AlgorithmWatch met en lumière les implications sociales, juridiques et éthiques des systèmes d'ADM qui affectent la société. AlgorithmWatch crée des ponts entre le secteur privé et le secteur public d'une part, et avec les organisations de la société civile d'autre part. AlgorithmWatch, est déjà bien connu en tant qu'instigateur d'un dialogue permanent autour des systèmes ADM, et il nourrit continuellement cette conversation en Europe.

Avec le lancement d'AlgorithmWatch Suisse, nous pouvons désormais jouer le même rôle en Suisse. AlgorithmWatch Suisse, soutenu par le fonds de développement Engagement Migros, a officiellement démarré ses activités en septembre 2020, lorsque notre directrice générale, Dr. Anna Mätzener, a rejoint l'organisation.

AlgorithmWatch Suisse se réjouit de nouer de nouveaux liens à travers la société suisse et de lancer de nouveaux projets, en s'appuyant sur notre réseau actuel – qui sera étendu dans les mois et les années qui viennent.