Benvenuta in Svizzera, AlgorithmWatch

Immaginate di vivere in una città della Svizzera, e che voi, insieme alla vostra intera famiglia, siate emozionati all’idea che vostro figlio, che ha appena compiuto sei anni, l’estate prossima cominci la prima elementare. Casa vostra, tuttavia, si trova tra due scuole, e non sapete quale vostro figlio finirà per frequentare. Perfino peggio, non sarete voi a decidere a quali di queste scuole dovrà iscriversi, perché un sistema per automatizzare processi decisionali (automated decision-making, ADM) potrebbe presto deciderlo al posto vostro.

Chissà, magari le due scuole hanno reputazioni molto differenti; forse gli alunni vengono da contesti sociali ed etnici molto diversi. Scambiate due chiacchiere con gli altri genitori circa i vantaggi di ciascuna, perché, proprio come loro, anche voi volete il meglio per vostro figlio.

Per alcuni, “il meglio” si traduce nella scuola con il più alto tasso di alunni che proseguono il proprio percorso di studi, mentre per altri la priorità potrebbe essere una buona istruzione artistica, o magari il fattore decisivo potrebbe essere la popolarità degli insegnanti. I genitori avranno opinioni differenti al riguardo, come sempre accade quando si tratta di figli.

Svariati studi hanno dimostrato che la segregazione scolastica dei bambini a seconda del loro background sociale ed etnico ne inficia le prestazioni, indipendentemente dal contesto di provenienza. Per questo è stato sviluppato (anche se non ancora adottato) un sistema di ADM svizzero che assegna gli alunni alle scuole in modo tale da mischiare il più possibile bambini provenienti da contesti diversi. Il sistema terrà anche in considerazione la distanza tra casa e scuola, il numero di posti e classi disponibili, e il personale docente di ciascuna scuola.

In teoria, questo insieme di fattori dovrebbe contribuire ad assicurare una istruzione inclusiva, equa e di elevata qualità per ogni bambino. In più, una mescolanza di background sociali ed etnici contribuirebbe anche, verosimilmente, a ottenere coerenza sociale e accrescere la diversità culturale fin dalla giovane età, il che potrebbe rivelarsi utile per il futuro del vostro bambino in un mondo globalmente connesso. All’apparenza, tutto ciò suona come qualcosa con cui la maggior parte dei genitori non faticherebbe a dirsi d’accordo.

Tuttavia, alcuni potrebbero non accogliere con favore l’idea di delegare una decisione simile a un sistema algoritmico. Potrebbero ritenerla una soluzione che penalizza il proprio bambino. Potrebbero sostenere che la sua istruzione ne risentirebbe, i voti sarebbero più bassi e, di conseguenza, che le sue opportunità di proseguire con successo il corso dei propri studi diminuiscano. L’uso dei sistemi di ADM solleva anche questioni politiche, incluse domande circa le implicazioni sociali dell’uso di tali algoritmi nel sistema dell’istruzione.

Questo è solo uno degli esempi di sistemi per automatizzare processi decisionali in via di sviluppo in Svizzera — ce ne sono molti altri — e di come la loro implementazione si accompagni sia ad opportunità che a rischi.

Come si può vedere nel capitolo sulla Svizzera del rapporto Automating Society 2020, i sistemi di ADM stanno già avendo un impatto crescente su diversi aspetti della vita nel paese. Tuttavia, la peculiare strutturale federale della Svizzera significa che l’implementazione di questi sistemi è soggetta a un ampio ventaglio di schemi normativi di riferimento.

È qui che AlgorithmWatch entra in gioco.

In qualità di organizzazione dedita alla ricerca e all’advocacy, AlgorithmWatch fa luce sulle implicazioni sociali, legali ed etiche dei sistemi di ADM che hanno un impatto sulla società. AlgorithmWatch agevola da un lato le relazioni tra settore pubblico e privato, e dall’altro quelle con organizzazioni della società civile. AlgorithmWatch è già nota come promotrice di un confronto continuo circa i sistemi di ADM, e lo alimenta regolarmente in tutta Europa.

Con il lancio di AlgorithmWatch Svizzera, possiamo ricoprire lo stesso ruolo in Svizzera. AlgorithmWatch Svizzera, con il supporto del Fondo pionieristico Migros, è diventata ufficialmente operativa a settembre 2020, quando la nostra managing director, la Dr. Anna Mätzener, è entrata a far parte dell’organizzazione.

AlgorithmWatch Svizzera non vede l’ora di confrontarsi con ancora più persone e organizzazioni, e cominciare nuovi ed esaltanti progetti che partano dalla nostra rete di contatti esistente e la espandano nei mesi e anni a venire.