Ai Act: scatta l’obbligo di alfabetizzazione

Il 2 febbraio sono scattati i primi due obblighi collegati all’AI Act: più esattamente l’obbligo di alfabetizzazione ex articolo 4 e i divieti di utilizzare pratiche AI vietate ex articolo 5. Oggi ci occuperemo del primo, più esattamente del dettato normativo, del significato di alfabetizzazione nel settore AI e degli obblighi delle aziende.

La definizione

In primo luogo la nozione di alfabetizzazione è contenuta nell’articolo 3 lett. 56) ove si definiscono alfabetizzazione in materia di IA “le competenze, le conoscenze e la comprensione che consentono ai fornitori, ai deployer e alle persone interessate, tenendo conto dei loro rispettivi diritti e obblighi nel contesto del presente regolamento, di procedere a una diffusione informata dei sistemi di IA, nonché di acquisire consapevolezza in merito alle opportunità e ai rischi dell’IA e ai possibili danni che essa può causare”. In sostanza con il termine alfabetizzazione ci si intende riferire alla ampia conoscenza dei Sistemi di AI per capire come usarli, le potenzialità, i vantaggi, i rischi e i possibili danni. Tale conoscenza deve essere in capo al fornitori dei Sistemi, ai deployer (cioè gli utilizzatori come ad esempio ospedali, medici etc.) e alle persone interessate (es. i pazienti).

Gli obblighi previsti

L’articolo 4 stabilisce poi gli obblighi collegati alla alfabetizzazione, statuendo che: “I fornitori e i deployer dei sistemi di IA adottano misure per garantire nella misura del possibile un livello sufficiente di alfabetizzazione in materia di IA del loro personale nonché di qualsiasi altra persona che si occupa del funzionamento e dell’utilizzo dei sistemi di IA per loro conto, prendendo in considerazione le loro conoscenze tecniche, la loro esperienza, istruzione e formazione, nonché il contesto in cui i sistemi di IA devono essere utilizzati, e tenendo conto delle persone o dei gruppi di persone su cui i sistemi di IA devono essere utilizzati”.
Si tratta dunque di un obbligo di formazione che nell’AI Act rappresenta un requisito autonomo (forse mai espresso in maniera così chiara in alcuna disciplina di prodotto fino a oggi) che coinvolge non solo i fornitori di sistemi di AI ma anche i deployer: entrambi i soggetti sono poi chiamati ad “alfabetizzare” anche le “altre persone” che si occupano del funzionamento e utilizzo della AI.

L’impatto dell’alfabetizzazione

Per capire meglio la portata di questo obbligo occorre poi leggere il Considerando 20 nel quale il legislatore comunitario chiarisce che “… l’alfabetizzazione in materia di IA dovrebbe dotare i fornitori, i deployer e le persone interessate delle nozioni necessarie per prendere decisioni informate in merito ai sistemi di IA. Tali nozioni possono variare in relazione al contesto pertinente e possono includere la comprensione della corretta applicazione degli elementi tecnici durante la fase di sviluppo del sistema di IA, le misure da applicare durante il suo utilizzo, le modalità adeguate per interpretare l’output del sistema di IA e, nel caso delle persone interessate, le conoscenze necessarie per comprendere in che modo le decisioni adottate con l’assistenza dell’IA incideranno su di esse (…). Inoltre, l’ampia attuazione delle misure di alfabetizzazione in materia di IA e l’introduzione di adeguate azioni di follow-up potrebbero contribuire a migliorare le condizioni di lavoro e, in ultima analisi, sostenere il consolidamento e il percorso di innovazione di un’IA affidabile nell’Unione”.

Contano i risultati

In sostanza un’alfabetizzazione che deve essere “a misura” del soggetto che utilizza il sistema di AI e deve tenere conto dello specifico contesto. Tale obbligo è poi basato sul risultato, cioè sull’effettivo raggiungimento delle competenze, delle conoscenze e della comprensione: ne discende che la semplice erogazione della formazione potrebbe non essere sufficiente se gli stakeholder non si impegnano e non imparano da essa. Per provare dunque di aver rispettato l’obbligo occorrerà considerare le metriche utilizzate per misurare l’efficacia della formazione sull’alfabetizzazione all’IA, considerando che le metriche più tradizionali potrebbero non essere adatte allo scopo.

Trasparenza, spiegabilità e supervisione umana

Molto interessante poi evidenziare che l’alfabetizzazione coinvolge anche il soggetto interessato (es. il paziente) che deve conoscere in quale modo le decisioni assunte con l’AI ricadano su di lui. In altre parole è fondamentale che le persone interessate, cioè quelle che subiscono l’impatto delle decisioni o delle operazioni guidate dall’IA, ricevano le conoscenze necessarie per comprendere la misura di questo impatto: l’obbligo è strettamente legato ad alcuni requisiti della AI quali la trasparenza, la spiegabilità e la supervisione umana.

Non esistono sanzioni dirette

Per completezza occorre precisare che l’AI ACT non prevede un regime sanzionatorio diretto nel caso di mancata alfabetizzazione. Ciò non toglie che l’autorità competente – al momento di applicare una sanzione per altre violazioni dell’AI ACT – potrà tenere probabilmente conto del livello di alfabetizzazione dell’IA nel contesto generale. L’articolo 99, paragrafo 7, lettera g), stabilisce infatti che, nel decidere se imporre una sanzione o il quantum di questa, in ogni singolo caso, si deve tenere conto “del grado di responsabilità dell’operatore, tenendo conto delle misure tecniche e organizzative da esso attuate”. Poiché l’alfabetizzazione all’IA è una misura organizzativa, le autorità di regolamentazione probabilmente valuteranno se e in che misura la violazione sia stata favorita dalla mancanza di alfabetizzazione del personale e se si è trattato di una mancanza a livello organizzativo o di un errore umano individuale.

Possibili reclami

Analogamente tale elemento potrebbe essere valutato da un giudice civile o penale davanti ai tribunali ordinari come elemento di negligenza del soggetto chiamato a risarcire o imputato di reato. Inoltre ai sensi dell’articolo 85, quando una persona fisica o giuridica ritenga che siano state violate le disposizioni della legge sull’AI ha la possibilità di presentare un reclamo a un’autorità di vigilanza del mercato. Quindi anche il paziente potrebbe segnalare la sua mancata alfabetizzazione. Per aiutare poi fornitori e deployer a rispettare tale obbligo la Commissione ha in progetto di pubblicare un repository di pratiche di alfabetizzazione AI raccolte dai fornitori e dai deployer dei sistemi di AI: ciò incoraggerà l’apprendimento e lo scambio tra loro, garantendo al contempo che gli utenti sviluppino le competenze e la comprensione necessarie per utilizzare efficacemente le tecnologie di intelligenza artificiale.

Rubrica "I DISPOSITIVI MEDICI TRA NORMATIVA E REGOLATORIO"

Leggi gli altri articoli presenti nella nostra rubrica in collaborazione con AboutPharma

VAI ALLA RUBRICA