AI LEGAL,
un prisma da comporre

Intelligenza artificiale in sanità: come utilizzarla in modo sicuro e conforme

L’introduzione dell’intelligenza artificiale (IA) nella medicina offre opportunità straordinarie per migliorare diagnosi, trattamenti e il monitoraggio dei pazienti.
Tuttavia, il suo utilizzo comporta nuovi rischi e responsabilità che devono essere conosciuti da tutti gli operatori sanitari. In questo articolo, esploreremo in modo chiaro e diretto come impiegare l'IA in sanità in modo sicuro e nel rispetto delle normative.

Dispositivi medici e AI: i punti di contatto secondo la linea guida Mdcg

Mdr e Ai act: come applicarli insieme? Domanda che si stanno ponendo fabbricanti (e relativi consulenti) di “software as medical device” (Samd) i cui componenti di sicurezza rientrano nella nozione di Ai (articolo 3 lett. 1 e articolo 6 Ai Act). Proprio su questo “cruciale intreccio” si inserisce la recentissima linee guida Mdcg 2025-6.
Ovviamente, in quanto linee guida, il documento non è legalmente vincolante, ma ciononostante rappresenta una bussola fondamentale per i fabbricanti, gli organismi notificati e le autorità competenti.
Per la prima volta, infatti, viene fornito un primo set di risposte alle domande più frequenti sull’applicazione congiunta dell’Ai Act e del Mdr/Ivdr ai dm che incorporano sistemi di Ai (definiti nel documento come Medical Device Artificial Intelligence – Mdai).
Questa definizione (e le linee guida) include anche i prodotti elencati nell’Allegato XVI del Mdr, gli accessori ai dispositivi medici e ai dispositivi medico-diagnostici in vitro.

AI generativa: la commissione pubblica il terzo draft del codice di buone pratiche

 AI - Aggiornamenti normativi

In attesa della versione finale (attesa, in verità, per i primi di maggio) la Commissione – che sta lavorando ai sensi dell’art 56 A.I. ACT – pubblica il terzo draft del  “codice di buone pratiche”. Si tratta di uno strumento cruciale nel guidare lo sviluppo e la diffusione di modelli di IA per finalità generali affidabili e sicuri nell'UE, anche (e soprattutto) in considerazione del fatto che, a partire dal 2 agosto 2025, il Capo V dell’A.I. ACT sui modelli di AI per finalità generali acquista piena efficacia. Andiamo allora a vedere com’è strutturato e cosa prevede.

IA per scopi generali: cosa sono e come sono disciplinate dall’AI ACT?

 AI - Aggiornamenti normativi

Si avvicina il 2 agosto 2025, data di piena efficacia per i modelli di IA per finalità generali e in cui diventeranno obbligatori tutti gli adempimenti per essi previsti nel Regolamento UE 2024/1689 (c.d. “A.I. Act”).  Vediamo che cosa sono i modelli di IA per finalità generali e quali sono gli obblighi ad essi collegati.

La commissione europea definisce i “Sistemi di IA”: una guida esplicativa dei 7 “elementi chiave”

 AI - Aggiornamenti normativi

La Commissione Europea ha pubblicato le linee guida atte a ricostruire la definizione di “sistema di IA” di cui all’art. 3(1) del Regolamento (UE) 2024/1689 (c.d. “A.I. Act”). Rivolte ai fornitori e alle altre persone interessate (“comprese le parti del mercato e le istituzioni”) il documento ha lo scopo favorire una maggiore comprensione del concetto giuridico di “sistema di IA” e, più in generale, della legge sull’IA, facilitandone il rispetto. Vediamo come si articola.

L’uso dell’ai nel settore degli appalti pubblici: un primo caso all’attenzione dei giudici

AI - Appalti

È legittimo premiare il concorrente che dichiari di avvalersi dell’AI nell’esecuzione dell’appalto? E com’è possibile dimostrare l’idoneità (o meno) dello strumento rispetto all’uso previsto? 

TAR Lazio, Sez. II, 3/3/2025, nr. 4546

Riservatezza delle conversazioni con l’IA – qual è la sorte dei dati utilizzati come prompt?

AI e IP Law
Molte delle questioni e delle criticità su cui ci si interroga legate all’utilizzo di sistemi di intelligenza artificiale riguardano la  tutela della proprietà intellettuale. Il presente contributo mira ad analizzare quale sia la sorte dei dati di input che fornisce l’utente nel momento in cui interagisce con l’algoritmo, e se (ed eventualmente come) questi vengano utilizzati dopo essergli stati forniti.

Automatizzazione delle Procedure di Gara e Riserva di Umanità

 AI - Appalti

L'automatizzazione delle procedure di gara implica l’uso di algoritmi, e rappresenta certamente un’opportunità per ottimizzare la gestione delle risorse pubbliche, ridurre tempi di esecuzione e minimizzare errori di calcolo e valutazione. Tuttavia, questo processo deve essere opportunamente controbilanciato dalla cd.  “riserva di umanità”, un principio giuridico che assicura la supervisione umana e, quindi, la legittimità delle decisioni amministrative.

Se utilizzo un sistema di IA per i miei contenuti devo dichiararlo? L’obbligo di trasparenza per i deployer

 AI - Pubblicità

Sempre più spesso i sistemi di IA sono utilizzati per generare testi, creare immagini o contenuti audio e video. Già Nel 2019 il gruppo di esperti di alto livello sull’intelligenza artificiale nominato dalla Commissione (AI HLEG) elaborò le Linee guida etiche per un’AI affidabile, indicando sette principi etici per un’AI affidabile e eticamente valida. Il recente Regolamento UE 1689/2024 (AI ACT) conferisce poi estrema importanza al principio di trasparenza. Nel presente contributo ci occuperemo nello specifico dell’obbligo di trasparenza relativo ai contenuti generati con l’ausilio di un sistema di IA posto in capo ai deployer: quindi, gli obblighi che andremo ad analizzare nel prosieguo riguardano i soggetti che utilizzano un sistema di IA nell’esecuzione di un’attività professionale.

Profilazione, controllo e decisioni automatizzate: i rischi AI in tema di lavoro

 AI e Diritto del Lavoro

Fra i settori maggiormente influenzati dalla introduzione e diffusione dei sistemi di intelligenza artificiale vi è sicuramente il diritto e l’organizzazione del lavoro. L'utilizzo delle tecnologie AI in questo settore può spaziare dalla fase di selezione sino alla gestione del rapporto di lavoro (come il mutamento delle mansioni, promozioni, trasferimenti, monitoraggio della performance etc.) e alla sua cessazione. L'Intelligenza Artificiale può poi rappresentare anche un vero e proprio strumento di lavoro, implementando le funzionalità dei dispositivi di salute e sicurezza sul lavoro oppure affiancando gli stessi lavoratori nell'esecuzione delle loro mansioni. Ma se da un lato le potenzialità di questo strumento sono vastissime, dall'altro è necessario prendere coscienza anche dei rischi che il suo utilizzo comporta. Fra i pericoli concreti, infatti, vi sono sicuramente quello di un controllo invasivo dei lavoratori, di una loro profilazione sistematica e di decisione automatiche in grado di condurre a trattamenti discriminatori.  Osserviamoli nel dettaglio.