Vuoi ricevere i nostri aggiornamenti?
Intelligenza artificiale e trasparenza degli algoritmi; un interessante caso di applicazione nella pubblica amministrazione
Cons. Stato, Sez. VI, 8/4/2019, n. 2270
Linee guida in materia di intelligenza artificiale e protezione dei dati
L’intera procedura di assunzioni era stata gestita da un sistema informatico mediante un algoritmo, il cui funzionamento era rimasto sconosciuto.
I ricorrenti, le cui istanze erano state respinte in primo grado, lamentavano in appello che l’algoritmo avrebbe assegnato le sedi e gli incarichi ai docenti senza tenere in alcuna considerazione le preferenze indicate, senza alcuna motivazione e senza rispettare il principio di trasparenza.
Il Consiglio di Stato svolge una disamina molto interessante relativamente all’automazione dei processi decisionali della Pubblica Amministrazione ed all’utilizzo di algoritmi, partendo dalla considerazione secondo cui l’uso di una procedura informatica che conduca alla decisione finale non debba essere stigmatizzata ma piuttosto incoraggiata, in quanto comporta numerosi vantaggi come la riduzione delle tempistiche per operazioni meramente ripetitive e prive di autonomia decisionale, l’esclusione di interferenze umane, la maggiore imparzialità della decisione automatizzata.
Tuttavia, l’utilizzo della procedura automatizzata non può eludere i principi che regolano il nostro ordinamento; in particolare l’algoritmo, quale regola tecnica, deve possedere una valenza giuridica e amministrativa e conseguentemente
- deve soggiacere ai principi generali dell’azione amministrativa quali la trasparenza e la pubblicità,
- deve prevedere con ragionevolezza tutti i casi possibili, anche i più improbabili
- deve contemplare la possibilità che il giudice valuti la correttezza del processo automatizzato in tutte le sue componenti,
- l’amministrazione deve compiere un ruolo costante di mediazione e composizione degli interessi mediante test costanti, aggiornamenti e modalità di perfezionamento dell’algoritmo.
A tutti gli effetti secondo il Consiglio di Stato “l’algoritmo, ossia il software, deve essere considerato come un atto amministrativo informatico”.
Ciò implica che il meccanismo attraverso cui si concretizza la decisione automatizzata deve essere conoscibile, in ossequio al principio di trasparenza; tale conoscibilità deve essere garantita in tutti i suoi aspetti, al fine di garantire che gli esiti del procedimento siano conformi alle prescrizioni ed alle finalità imposte dalla legge. La formula tecnica che di fatto è racchiusa nell’algoritmo deve essere corredata da spiegazioni che la traducano nella regola giuridica ad essa sottesa e che la rendano leggibile sia per i cittadini che per il giudice.
L’algoritmo deve inoltre essere oltre che conoscibile anche sindacabile e assoggettabile alla piena cognizione del giudice amministrativo, in ottemperanza all’esigenza di verifica che il potere sia stato esercitato correttamente.
Il giudice deve quindi essere in grado di valutare la correttezza del processo informatico in tutte le sue componenti; dalla costruzione dell’algoritmo, all’inserimento dei dati, alla loro validità, alla loro gestione. Poiché nel caso sottoposto all’esame del giudice amministrativo non era possibile comprendere le modalità con cui l’algoritmo aveva assegnato i posti disponibili ai docenti, il Consiglio di Stato accoglie il ricorso.
Sicuramente è estremamente interessante il passaggio logico svolto dai giudici nel considerare l’algoritmo alla stregua di un atto amministrativo, che come tale deve soggiacere ai medesimi principi; il problema di fondo sta proprio però nella effettiva conoscibilità e comprensione del processo decisionale svolto dall’intelligenza artificiale anche qualora l’algoritmo su cui si fonda venga reso noto.
In tema di intelligenza artificiale sono poi particolarmente interessanti le Linee guida presentate dal Comitato consultivo della Convenzione sulla protezione delle persone rispetto al trattamento automatizzato di dati a carattere personale, che nei confronti delle pubbliche amministrazioni raccomandano di predisporre procedure di appalto pubblico dove si impongano a sviluppatori, produttori e fornitori di servizi di AI, specifici obblighi di trasparenza, la valutazione preliminare dell'impatto del trattamento dei dati sui diritti umani e sulle libertà fondamentali, e l’obbligo di “vigilanza sugli algoritmi”, in particolare sugli effetti negativi e sulle conseguenze derivanti dalle applicazioni AI.
Il Comitato sottolinea inoltre che ogni progetto basato sull’intelligenza artificiale dovrebbe rispettare la dignità umana e le libertà fondamentali, nonché i principi base di liceità, correttezza, specificazione della finalità, proporzionalità del trattamento, protezione dei dati fin dalla progettazione (privacy by design) e protezione per impostazione predefinita (privacy by default), responsabilità e dimostrazione della conformità (accountability), trasparenza, sicurezza dei dati e gestione dei rischi, in una parola i principi fondamentali in materia di trattamento dei dati personali.