Un errore diagnostico generato da un sistema di intelligenza artificiale non sempre si manifesta subito. Talvolta, si insinua nei database clinici, si propaga lungo i sistemi sanitari digitali, attraversa reparti e strutture, restando invisibile, ma con potenziali conseguenze gravi. È questo uno dei principali allarmi lanciati da un nuovo studio pubblicato sulla rivista scientifica IEEE Access, che introduce uno strumento innovativo per affrontare questa sfida: il Propagation Risk Index (PRI).

Sviluppato da Marco Giacalone, docente all’Università LUMSA di Palermo, il PRI è un indice matematico pensato per identificare i punti critici all’interno delle reti informatiche complesse, come quelle usate in sanità e nei trasporti. L’obiettivo è individuare dove, in un sistema interconnesso, un errore può amplificarsi e diventare sistemico. Un cambio di paradigma per la sicurezza digitale delle infrastrutture critiche.

Secondo l’autore, “circa il 10% dei punti di un sistema concentra fino al 90% del rischio complessivo”. E agire su questi nodi permette di “ridurre il rischio globale fino al 65%, garantendo un uso più efficiente delle risorse sanitarie”.

Un indice per identificare i punti deboli del sistema

Lo studio, disponibile su IEEE Xplore, non si limita a una valutazione teorica. Il modello PRI è stato testato in due ambiti diversi ma accomunati da una forte digitalizzazione: la sanità e l’aviazione. In particolare, la ricerca ha analizzato sei reti aeronautiche europee colpite da interferenze GPS tra il 2024 e il 2025. Questo ha permesso di confermare l’efficacia del modello anche fuori dal contesto medico, dimostrando la versatilità dell’approccio.

Il PRI non è uno strumento che mira a rafforzare indiscriminatamente tutte le componenti tecnologiche, piuttosto, permette di focalizzare gli interventi di sicurezza solo dove realmente necessario. Non sempre, infatti, il nodo più pericoloso coincide con quello più tecnologico. A volte è un punto apparentemente secondario, ma strategico per il flusso delle informazioni.

“Non si tratta necessariamente dei server tecnologicamente più avanzati – precisa Giacalone – ma di quelli che rappresentano snodi centrali nel flusso delle informazioni cliniche”.

Il PRI consente così di prevenire in anticipo l’effetto domino che può scatenarsi da un singolo errore, aumentando l’efficacia delle misure di sicurezza e migliorando la gestione delle reti distribuite.

Errori invisibili che attraversano reparti e database

Il cuore dell’analisi si concentra sul comportamento degli errori dell’IA nei sistemi sanitari complessi. A differenza dei problemi evidenti, questi errori possono restare nascosti per mesi o anni, ma intanto si inseriscono nei dati, influenzano le decisioni cliniche, modificano gli archivi e si propagano tra sistemi.

“Quando un sistema di Intelligenza Artificiale sbaglia, l’errore non fa rumore immediato, ma entra nei dati e circola”, avverte Giacalone. “Con il Propagation Risk Index abbiamo dimostrato che il rischio non cresce in modo proporzionale, ma si annida dove nessuno guarda”.

È un aspetto decisivo, soprattutto in un’epoca in cui la sanità digitale si espande rapidamente, integrando IA, big data e sistemi predittivi. Il rischio non è più solo l’errore umano o il malfunzionamento tecnico, ma la propagazione silenziosa di informazioni errate che si diffondono nell’intera rete.

Il PRI rappresenta, in questo senso, un nuovo approccio alla gestione del rischio. Mette in discussione l’idea che tutti i punti della rete siano uguali e propone una mappatura intelligente della vulnerabilità.

Un cambio di paradigma nella gestione del rischio sistemico

Il valore dello studio non è solo teorico. Applicare l’indice matematico in ambiti differenti, dalla sanità all’aviazione, dimostra che il meccanismo di propagazione del rischio è universale nei sistemi informativi complessi. Un errore in un nodo centrale può avere conseguenze sproporzionate rispetto alla sua origine.

Il caso delle interferenze GPS analizzato nella ricerca conferma l’utilità del modello anche per le reti aeronautiche, dove errori o anomalie possono influire su sicurezza dei voli e traffico aereo. In uno scenario globale sempre più interconnesso, il controllo preventivo dei punti critici diventa una necessità.

Giacalone propone una riflessione più ampia: “Individuare in anticipo dove un errore può diventare sistemico cambia il paradigma della sicurezza nelle infrastrutture sanitarie, proteggendo il percorso del paziente in modo più efficace”.

Lo studio apre la strada a strategie di intervento più mirate, capaci di migliorare l’efficienza e la sostenibilità del sistema. Invece di moltiplicare gli investimenti su tutta la rete, il PRI consente di ottimizzare le risorse.

Questa logica può tradursi in politiche sanitarie più efficaci, basate su dati e analisi predittive. In futuro, strumenti come il PRI potrebbero diventare essenziali non solo nella prevenzione del rischio, ma anche nella progettazione dei sistemi informativi sanitari.