Negli ultimi tempi, sta prendendo piede una pratica sempre più diffusa e potenzialmente rischiosa: caricare analisi cliniche, radiografie e altri referti medici su piattaforme di intelligenza artificiale (IA) generativa con l’obiettivo di ottenere interpretazioni o diagnosi. Su questo fenomeno, il Garante per la protezione dei dati personali ha lanciato un chiaro allarme, evidenziando i gravi rischi connessi.

Qui il comunicato stampa.

I Due Principali Rischi Segnalati dal Garante

Il Garante della privacy ha identificato due aspetti cruciali che rendono questa pratica allarmante:

1. Rischio di perdita di controllo sui dati sanitari: I dati sanitari sono di “straordinaria importanza per le persone”. Condividerli con servizi di IA generativa espone gli utenti al rischio di perdere il controllo su informazioni estremamente sensibili.
2. Rischio di indicazioni errate: Le soluzioni di IA generativa, se non specificamente progettate per fornire indicazioni mediche, testate e rese disponibili al pubblico come dispositivi medici, possono generare risposte imprecise o addirittura pericolose. Tali risposte “dovrebbero sempre essere verificate con un professionista medico”.

Consigli del Garante per gli Utenti

Di fronte a questi rischi, il Garante della privacy invita gli utenti a una riflessione attenta:

• Valutare l’opportunità di condividere i dati: È fondamentale considerare con la massima attenzione se procedere alla condivisione di dati di carattere sanitario con i fornitori di servizi di intelligenza artificiale generativa.
• Non fare affidamento esclusivo sulle risposte automatiche: Le risposte generate automaticamente dai servizi di IA non devono essere considerate definitive e devono sempre essere verificate con un medico professionista.
• Leggere le informative sulla privacy: È cruciale leggere le informative sulla privacy che i gestori delle piattaforme sono obbligati a pubblicare. Questo permette di verificare se i dati sanitari caricati online saranno cancellati dopo la richiesta, in un secondo momento, o se verranno conservati dal gestore per l’addestramento dei propri algoritmi. Fortunatamente, molti dei più noti servizi di IA generativa permettono agli utenti di decidere il destino dei dati e dei documenti caricati.

L’Importanza Cruciale dell’Intervento Umano Qualificato

Un punto fermo per il Garante è la necessità di garantire sempre un’intermediazione umana qualificata nell’elaborazione dei dati sanitari tramite sistemi di IA. Questa importanza è riconosciuta sia dal Regolamento europeo sull’IA (Art. 14) sia dal Consiglio Superiore di Sanità.

La “supervisione umana qualificata” è essenziale per prevenire rischi che potrebbero incidere direttamente sulla salute della persona. Tale supervisione deve essere garantita in tutte le fasi del ciclo di vita del sistema di IA: dallo sviluppo all’addestramento, fino ai test e alla convalida, prima della sua immissione sul mercato o nel suo utilizzo.

Questo tema era già stato affrontato dall’Autorità nel “decalogo per la realizzazione di servizi sanitari nazionali attraverso sistemi di IA”, adottato nell’ottobre del 2023. In quel documento erano stati evidenziati altri aspetti fondamentali per la protezione dei dati personali, come:

• La presenza di un idoneo presupposto di liceità.
• La necessaria e preventiva valutazione d’impatto.
• Gli obblighi di trasparenza e sicurezza.

Un Appello anche agli Sviluppatori e Operatori Sanitari

Infine, il Garante rivolge un richiamo anche agli sviluppatori dei sistemi di IA e agli operatori del settore sanitario. L’attenzione è puntata sui rischi derivanti dalla raccolta massiva di dati personali dal web per finalità di addestramento dei modelli di intelligenza artificiale generativa, un fenomeno già evidenziato in un documento specifico sul web scraping pubblicato a maggio 2024.

In sintesi, mentre l’intelligenza artificiale offre nuove opportunità, l’uso improprio o non consapevole di queste tecnologie, specialmente in ambiti delicati come la salute, può comportare rischi seri per la privacy e il benessere delle persone. La cautela, la verifica professionale e la consapevolezza nell’uso delle piattaforme di IA sono più che mai necessarie.