Discriminazione con algoritmi medici

Gli algoritmi impiegati nella Sanità discriminano contro i pazienti di colore anche in Svizzera

Di Florian Wüstholz

Gli algoritmi utilizzati per valutare la funzionalità renale o predire un arresto cardiaco ricorrono alla razza come criterio fondamentale. Ma non c’è base scientifica per farlo, e i risultati prodotti sono discriminatori nei confronti delle persone di colore.

Diversi algoritmi impiegati nel campo della medicina richiedono che la razza del paziente sia inclusa nel calcolo. La American Heart Association, per esempio, raccomanda l’uso di un algoritmo per calcolare il rischio di un arresto cardiaco. Gli individui categorizzati come “non di colore” ricevono automaticamente tre punti aggiuntivi, sul massimo di cento. L’algoritmo giudica il loro rischio più elevato, e di conseguenza potrebbero venire curati prima. L’algoritmo STONE, che stima la probabilità di avere sviluppato calcoli renali, funziona in modo molto simile. Anche in questo caso, infatti, gli individui “non di colore” ricevono tre punti aggiuntivi (su 13) — e, dunque, un trattamento migliore.

Un nuovo studio pubblicato sul New England Journal of Medicine analizza la discriminazione sistematica delle Persone di Colore (PoC) da parte degli algoritmi adottati in campo medico — discriminazione che si aggiunge a un numero crescente di studi scientifici che criticano gli algoritmi distorti da considerazioni razziali, perlopiù perché non c’è ragione di usare una nozione sociale (la razza) per valutare funzioni biologiche. In entrambi i casi esposti in precedenza, non sembra esserci giustificazione alcuna per declassare i punteggi delle persone “di colore”. Altri algoritmi distorti dal concetto di razza si basano su dati superati o dati che usano la razza come proxy di altri fattori, una logica simile a quella di chi considera il fatto di avere un accendino in tasca la causa di un cancro ai polmoni.

Anche in Svizzera

Tutto questo si applica alle formule, di largo utilizzo e impiegate anche in Svizzera, per la stima della funzionalità renale. Dato che misurare la funzionalità dei reni in modo diretto e preciso richiede molto tempo, viene di norma utilizzata come proxy la concentrazione di creatinina (una molecola che i reni filtrano) nel sangue. La formula, insieme alle altre variabili, produce dunque una stima della reale funzionalità dei reni. Le variabili includono il genere, l’età e la “razza” — con un’unica distinzione tra “nero” e “non-nero”. L’algoritmo fornisce un “tasso di filtrazione glomerulare stimato”, o eGFR. Questo valore, a sua volta, ha un ruolo chiave nella predisposizione di ulteriori cure, e può, a volte, influenzare la posizione di un paziente nella lista d’attesa per un trapianto di reni (le decisioni riguardanti un trapianto sono basate su molti altri fattori, tra i quali sono incluse anche più precise misurazioni della funzionalità renale).

Le due formule più utilizzate per l’eGFR — MDRD e CKD-EPI — calcolano automaticamente una migliore funzionalità renale per le persone categorizzate come “nere”. La formula MDRD ne aumenta il punteggio del 21 percento, e la CKD-EPI del 16. Una differenza ampia, che può avere un impatto sulle cure ricevute dai pazienti.

Il lavoro di ricerca svolto da AlgorithmWatch mostra che tutti e cinque gli ospedali universitari svizzeri fanno uso della formula CKD-EPI, inclusa la sua componente razziale. Daniel Sidler dell’Inselspital di Berna ha spiegato che “il fattore dell’appartenenza etnica” viene determinato manualmente dai professionisti sanitari che conducono l’esame. Thomas Müller, dell’Ospedale Universitario di Zurigo (USZ), ha a sua volta confermato l’utilizzo di CKD-EPI. Un nefrologo, o specialista dei reni, dell’ospedale di Losanna ha affermato che il loro algoritmo era destinato a pazienti “caucasici”, ma anche che i medici avrebbero potuto adattare la formula in base alla “appartenenza etnica” del paziente.

Portavoce dell’Ospedale Universitario di Ginevra, il più grande del paese, hanno dichiarato ad AlgorithmWatch che, mentre la razza dei pazienti non viene mai salvata nei loro registri, ai medici è consigliato di fare ricorso alla componente razziale di CKD-EPI nel prendere decisioni circa le cure. L’ospedale incoraggia anche l’uso di uno strumento online che chiede ai pazienti se sono “Afroamericani” o appartengono a “tutte le altre razze”. I portavoce dell’ospedale non hanno risposto quando è stato loro chiesto se i pazienti fossero consapevoli dell’utilizzo dello strumento.

Generalizzazioni razziste

I medici dell’Inspelspital e dell’USZ si sono schierati dalla parte della discriminazione delle persone “di colore”, dichiarando ad AlgorithmWatch che le persone con una pelle di colore più scuro producono più creatinina. Non c’è prova che ciò sia vero, tuttavia. La produzione di creatinina dipende piuttosto dalla massa muscolare. Lo studio su cui si basa la stima della formula CKD-EPI giustifica l’aggiustamento per i “neri” a partire dall’assunto secondo cui i “neri” hanno una massa muscolare maggiore, e di conseguenza producono più creatinina.

Metodi discriminatori come questo sono sempre più criticati. E dubbi al riguardo vengono avanzati anche in Svizzera. “L’idea che le persone di colore possano sopportare più dolore perché fisicamente più forti dei bianchi è assolutamente razzista”, ha affermato Li Owzar di Diversum, un’organizzazione che fornisce spazi protetti di discussione a PoC. “Una categorizzazione basata sulla percezione del colore della pelle è altrettanto razzista, e di conseguenza completamente indifendibile”.

Nel caso dell’eGFR, diversi studi hanno già sollevato perplessità circa la validità dell’algoritmo impiegato. Ricerche da Giappone, Pakistan e India hanno dimostrato che le formule possono essere sistematicamente errate, a seconda della popolazione. Alcuni ospedali statunitensi si sono spinti fino alla messa al bando dell’algoritmo. Ma non in Svizzera, dove sono ancora considerati lo stato dell’arte in molte pubblicazioni che affermano che gli algoritmi sono “testati su popolazioni differenti e per storie cliniche differenti”.

Data l’ampiezza delle critiche, questa conclusione è discutibile. In Svizzera in particolare, pochissimi studi hanno indagato le discriminazioni contro PoC. Ci sarebbe bisogno di studi sistematici e indipendenti, perché gli algoritmi usati in campo medico riflettono il razzismo insinuatosi nei dati su cui erano stati costruiti. Ciò che si applica agli algoritmi in genere è, naturalmente, altrettanto vero per le formule che stimano l’eGFR: se la base di dati è inadatta, il risultato è un algoritmo inutilizzabile. Nel caso di un algoritmo che discrimina sistematicamente le persone di colore, ciò può tradursi in cure peggiori.

Nicolas Kayser-Bril ha contribuito a questo articolo.