AI LEGAL,
un prisma da comporre
L’Intelligenza Artificiale è tema di grande attualità e fonte di dibattito in vari ambiti.
L’Unione europea ha deciso di darsi una normativa specifica e l’approvazione del nuovo regolamento (AI ACT) è ormai alle porte.
L’AI ACT è una disciplina di prodotto che interviene sotto vari profili, non solo identificando i sistemi di IA vietati ma anche, e soprattutto, disciplinanndo i requisiti che i sistemi di AI devono rispettare per essere immessi in commercio nell’Unione.
Svariati e complessi sono poi i profili di interconnessione con le altre discipline quali GDPR, tutela della proprietà intellettuale e industriale e MDR, richiedendo quindi una lettura attenta e coordinata.
Questa rubrica digitale contiene articoli di approfondimento, white paper, contributi sui diversi punti di vista:
tante facce che ci proponiamo di scomporre per rendere ai nostri lettori un’immagine complessiva.
Per facilitare la comprensione del tema dell'Intelligenza Artificiale e della sua applicazione negli Stati dell'Unione, abbiamo inoltre creato una raccolta dei documenti aventi valore giuridico emanati da soggetti europei e nazionali sull'AI.
VAI ALLE FONTI AI
Riservatezza delle conversazioni con l’IA – qual è la sorte dei dati utilizzati come prompt?
AI e IP LawMolte delle questioni e delle criticità su cui ci si interroga legate all’utilizzo di sistemi di intelligenza artificiale riguardano la tutela della proprietà intellettuale. Il presente contributo mira ad analizzare quale sia la sorte dei dati di input che fornisce l’utente nel momento in cui interagisce con l’algoritmo, e se (ed eventualmente come) questi vengano utilizzati dopo essergli stati forniti.
Automatizzazione delle Procedure di Gara e Riserva di Umanità
AI - Appalti
L'automatizzazione delle procedure di gara implica l’uso di algoritmi, e rappresenta certamente un’opportunità per ottimizzare la gestione delle risorse pubbliche, ridurre tempi di esecuzione e minimizzare errori di calcolo e valutazione. Tuttavia, questo processo deve essere opportunamente controbilanciato dalla cd. “riserva di umanità”, un principio giuridico che assicura la supervisione umana e, quindi, la legittimità delle decisioni amministrative.
Se utilizzo un sistema di IA per i miei contenuti devo dichiararlo? L’obbligo di trasparenza per i deployer
AI - Pubblicità
Sempre più spesso i sistemi di IA sono utilizzati per generare testi, creare immagini o contenuti audio e video. Già Nel 2019 il gruppo di esperti di alto livello sull’intelligenza artificiale nominato dalla Commissione (AI HLEG) elaborò le Linee guida etiche per un’AI affidabile, indicando sette principi etici per un’AI affidabile e eticamente valida. Il recente Regolamento UE 1689/2024 (AI ACT) conferisce poi estrema importanza al principio di trasparenza. Nel presente contributo ci occuperemo nello specifico dell’obbligo di trasparenza relativo ai contenuti generati con l’ausilio di un sistema di IA posto in capo ai deployer: quindi, gli obblighi che andremo ad analizzare nel prosieguo riguardano i soggetti che utilizzano un sistema di IA nell’esecuzione di un’attività professionale.
Profilazione, controllo e decisioni automatizzate: i rischi AI in tema di lavoro
AI e Diritto del Lavoro
Fra i settori maggiormente influenzati dalla introduzione e diffusione dei sistemi di intelligenza artificiale vi è sicuramente il diritto e l’organizzazione del lavoro. L'utilizzo delle tecnologie AI in questo settore può spaziare dalla fase di selezione sino alla gestione del rapporto di lavoro (come il mutamento delle mansioni, promozioni, trasferimenti, monitoraggio della performance etc.) e alla sua cessazione. L'Intelligenza Artificiale può poi rappresentare anche un vero e proprio strumento di lavoro, implementando le funzionalità dei dispositivi di salute e sicurezza sul lavoro oppure affiancando gli stessi lavoratori nell'esecuzione delle loro mansioni. Ma se da un lato le potenzialità di questo strumento sono vastissime, dall'altro è necessario prendere coscienza anche dei rischi che il suo utilizzo comporta. Fra i pericoli concreti, infatti, vi sono sicuramente quello di un controllo invasivo dei lavoratori, di una loro profilazione sistematica e di decisione automatiche in grado di condurre a trattamenti discriminatori. Osserviamoli nel dettaglio.
Chi è l’autore? L’intelligenza umana o quella artificiale?
AI e IP Law
Molte opere digitali ma anche molte invenzioni vengono ormai realizzate utilizzando sistemi di intelligenza artificiale. Qualora queste creazioni abbiano le caratteristiche di creatività, novità etc proprie di un’opera dell’ingegno, a chi spetterebbe il riconoscimento dei diritti di proprietà intellettuale? Non è un tema economico di poco conto.
Come cambia il risk management delle strutture sanitarie dopo l’avvento dell’IA?
AI e Contrattualistica
Nel nostro precedente articolo "Il risk management dei dispositivi medici alla luce della legge Gelli-Bianco sulla responsabilità sanitaria" abbiamo approfondito gli obblighi di risk management delle strutture sanitarie e, in particolare, l’impatto che assume nelle attività di gestione del rischio clinico l’uso dei “dispositivi medici” ex Regol. UE 2017/745 (c.d. “MDR”).
Ora, a seguito dell’oramai nota entrata in vigore del Regol. UE 1689/2024 (c.d. “AI ACT”), vorremmo provare a fare un passo avanti e immaginare come cambieranno i sistemi di risk management per le strutture sanitarie che decideranno di usare (o già usano) sistemi di intelligenza artificiale.
ISO 42001 per aziende biomedicali e AI ACT
AI e Regolamentazione da prodotto
L'AI Act è un regolamento dell'Unione Europea pensato per disciplinare i sistemi di intelligenza artificiale (IA) tra cui quelli ad alto rischio, con un focus particolare sulla sicurezza, conformità e trasparenza. Questo Regolamento deve essere applicato anche dalle aziende biomedicali che si occupano di proporre sul mercato dispositivi medici con moduli basati su principi di IA: è prevista la applicazione in modo integrato rispetto al MDR. Negli articoli del regolamento AI Act che descrivono le responsabilità delle aziende “fornitori di sistemi IA ad alto rischio” vi sono chiare assonanze con le responsabilità assegnate ai Fabbricanti dal MDR.
L’approccio integrato alla conformità regolatoria passa, innanzi tutto, dalla costruzione di un sistema di gestione della qualità completo, che consenta all'azienda di affrontare le fasi di ideazione, progettazione, test e immissione in commercio in modo coordinato ed efficiente.
Tutela della proprietà intellettuale e sviluppo dei sistemi di AI: due posizioni inconciliabili?
AI e IP Law
Se i dati sono fondamentali per l’addestramento e lo sviluppo degli algoritmi di AI, quale tutela viene riconosciuta ai titolari di diritti di proprietà intellettuale? I diritti di proprietà intellettuale sono conciliabili con la “fame di dati” dei sistemi di AI?
I soggetti coinvolti dall'AI ACT: il professionista sanitario è un "deployer?"
AI e Sanità
L’entrata in vigore del Regolamento n. 1689/2024 (c.d. “AI Act”) segna un cambiamento epocale nella regolamentazione dell'IA a livello europeo. Dettando regole specifiche per i fornitori dei sistemi di IA (i c.d. providers) e anche per coloro che li utilizzano (i c.d. deployers), l’AI Act predispone una serie di obblighi che avranno diretta ripercussione sul settore sanitario e, in particolare, sui medici e gli altri esercenti la professione sanitaria.
Esaminiamo quali possono essere le novità e le ricadute dell’AI Act su alcuni operatori del settore, focalizzando la nostra attenzione sui possibili obblighi del medico e sulle nuove modalità di gestione del rischio clinico.
In collaborazione con Ing. Alice Ravizza di Inside AI
Il sistema sanzionatorio dell’AI Act
AI e profili di responsabilità
L’enforcement di una normativa è essenziale affinché ne venga rispettato il dettato e la previsione di sanzioni che risultino dissuasive per gli operatori ne è parte integrante. Anche l’AI Act si è dotato di un sistema sanzionatorio complesso e fortemente impattante, la cui applicazione è rimessa agli Stati membri.