Vuoi ricevere i nostri aggiornamenti?

Registrati per accedere ai contenuti riservati e iscriverti alla nostra newsletter

La datificazione della sanità: problemi e possibili soluzioni

31/03/2021
Alice Giannini

È indubbio che l’applicazione dei sistemi di Intelligenza Artificiale stiano apportando rilevanti vantaggi nell’organizzazione delle prestazioni in ambito sanitario (per un approfondimento, il nostro articolo sulle applicazioni dell'intelligenza artificiale in sanità). 

Ma è altrettanto vero che una non corretta gestione dei dati in sanità può essere causa di incidenti e danni ai pazienti. 

Secondo un recente articolo pubblicato sul Boston Review, i casi di malasanità nell’attività sanitaria ricollegabili ad una raccolta di dati errata (sia questa svolta da un agente umano o da un agente artificiale) non sono eccezioni, ma sono invece la dimostrazione del fatto che spesso i rischi legati al c.d. fenomeno della “datificazione” (datafying) della sanità vengono ignorati o sottovalutati.  

Soprattutto nel caso in cui i dati vengano trattati attarverso sistemi di machine learning.  

L’articolo, titolato appunto “Medicine’s Machine Learning Problem”, si concentra su vari temi, tra cui due (collegati tra loro) ci appaiono rilevanti: 

  1. i dati sanitari possono essere di parte e/o influenzati da chi li raccoglie: ne deriva che possono essere incompleti, errati o distorti;  
  2. l’importanza in questo contesto della centralizzazione della patient experience. 

Analizziamoli in ordine. 

I dati sanitari come dati di parte

Il recente utilizzo di dati per lo sviluppo di tecnologia di IA ed il successivo utilizzo della AI stessa ha fatto esplodere un problema che in realtà esiste da sempre: i dati sanitari raccolti presentano profondi profili di diversità intrinseca. (si veda su questo argomento l’articolo Health Care AI Systems Are Biased pubblicato sul sito Scientific American) 

Si pensi al seguente esempio fornito nell’articolo del Boston Review relativo al tema dei ritardi nelle diagnosi: 

In media, ci vogliono cinque anni e cinque medici per i pazienti con malattie autoimmuni come la sclerosi multipla e il lupus per ottenere una diagnosi; tre quarti di questi pazienti sono donne, e la metà riferisce di essere etichettata come una persona che si lamenta cronicamente nelle prime fasi della malattia. La diagnosi del morbo di Crohn richiede dodici mesi per gli uomini e venti mesi per le donne, mentre la diagnosi della sindrome di Ehlers-Danlos richiede quattro anni per gli uomini e sedici anni per le donne.  

Questa oggettiva situazione clinica può portare ad una raccolta di dati incorretti e sbilanciati.  

Ma c’è di più: le osservazioni, le diagnosi e le decisioni prese da un medico vengono considerate come oggettive, ma in realtà possono essere fallibili.  

Ed inoltre spesso il dato che viene raccolto è quello relativo alla percezione del medico dello stato di salute del paziente, medico che in alcune occasioni tende a minimizzare i sintomi che vengono espressi dal paziente: ciò comporta che frequentemente vi è una sottovalutazione dei sintomi effettivi riportati.  

Altri fattori di non corretta raccolta dei dati sono, ad esempio, il fatto che, in alcune occasioni, le analisi che non vengono prescritte non sono registrate.  

Il risultato?  I dati sono incompleti o possono essere “difettosi”: da cui deriva che l’output di un software di AI allenato con tali dati può essere anch’esso difettoso o incompleto.

L’importanza dell’esperienza del paziente

Secondo l’articolo sopra menzionato, uno strumento per affrontare e correggere l’inesattezza dei set dei dati sanitari potrebbe essere il ruolo e la valorizzazione dell’esperienza del paziente.  

Tale profilo dovrà essere necessariamente tenuto in considerazione da parte dei programmatori che si prestano a sviluppare un sistema di IA destinato ad essere inserito nell’infrastruttura di un sistema sanitario. 

È importante, quindi, anche dal punto di vista dello sviluppo di sistemi basati sul machine learning in sanità, la partecipazione del paziente alla terapia.

Tale partecipazione avviene ad esempio nell’ambito dei Patient Support Programs. Si pensi ad un chatbot che fornisce un assistente empatico al paziente che sta affrontando una terapia e, allo stesso tempo, gli permette di comunicare in tempo reale con il suo medico di fiducia.  

Questi sistemi, centralizzando il ruolo del paziente nel corso del suo percorso terapeutico, possono portare alla raccolta di dati inclusivi, che tengano conto dell’esperienza vissuta dagli stessi nonché dei sintomi da questi percepiti 

Quanto sopra evidenziato può essere ricompreso nel più ampio discorso relativo ai principali problemi etici e giuridici legati all’utilizzo dell’IA in sanità.  

Su questi profili si richiama l’articolo Ethical and legal challenges of artificial intelligence-driven healthcare nel quale si riassumono i principali profili collegati alla AI (a tal fine, vedi anche il volume "Intelligenza artificiale e sicurezza: opportunità, rischi e raccomandazioni").

In conclusione, secondo alcuni, i problemi principali della datificazione in sanità sarebbero cinque:

  1. La sicurezza del prodotto (nell’ambito dell’UE, assume rilevanza quanto stabilito dalla direttiva MDR - consulta il nostro sito Medicaldevicenews e la nostra rubrica dedicata); 
  2. La responsabilità (si pensi ad esempio alla risoluzione del Parlamento Europeo sulla responsabilità civile per i danni causati dall’IA, di cui abbiamo parlato qui - ed è disponibile nella nostra Raccolta fonti normative sull'AI); 
  3. La data protection e la privacy, ossia le norme del GDPR dedicate al trattamento automatizzato di dati;
  4. La Cybersecurity;
  5. Gli aspetti di proprietà intellettuale.

Rubrica "Sanità Digitale e Intelligenza Artificiale"

Leggi gli altri articoli presenti nella nostra rubrica dedicata.