CASE-09 · Sanità & nuove tecnologie
Investire 25 milioni in AI diagnostica su tutta la rete di ospedali
66
Sanità
Sanità
Sui tuoi pazienti l'accuratezza cala — e la fiducia cieca crea errori nuovi.
In una riga Evitati €25 mln di tecnologia inutilizzata e un rischio clinico-legale da eccesso di fiducia nella macchina.
Il direttore sanitario della rete ospedaliera, con un mandato di innovazione digitale e un budget di trasformazione approvato dal consiglio di amministrazione per il triennio in corso.
Una rete di otto ospedali pubblici di medie dimensioni che serve una popolazione con caratteristiche demografiche eterogenee: alta percentuale di anziani, prevalenza di patologie croniche, forte variabilità etnica tra i presidi. Il sistema di diagnostica per immagini attuale è frammentato su tre piattaforme diverse. Il fornitore del nuovo sistema AI ha validato la propria soluzione su uno studio multicentrico internazionale di 120.000 esami.
I sistemi di AI diagnostica hanno raggiunto e in alcuni casi superato l'accuratezza media del radiologo umano nei benchmark pubblicati. Tuttavia la letteratura di implementazione reale racconta una storia più complessa: studi indipendenti hanno documentato riduzioni di performance dal 10 al 25% quando un modello addestrato su dati internazionali viene applicato a popolazioni locali con profili demografici differenti. Il fenomeno dell'automation bias — la tendenza dei clinici ad accettare il giudizio della macchina senza verifica critica — è ben documentato e si accentua quando il sistema mostra un'alta confidenza numerica. In assenza di protocolli espliciti di revisione umana e di chiari criteri di escalation, il rischio non è che il sistema non funzioni: è che funzioni abbastanza bene da sembrare affidabile, e poi fallisca in modo sistematico su un sottogruppo specifico di pazienti.
I numeri del fornitore sono convincenti: accuratezza superiore al 93% nello studio di validazione, tempi di refertazione dimezzati, potenziale di riduzione degli errori diagnostici. Il board ha già approvato il budget. Ma c'è una distanza critica tra lo studio del fornitore e i pazienti reali della rete: la popolazione locale ha una composizione demografica diversa, le macchine di acquisizione immagini sono più datate, i radiologi hanno abitudini di refertazione proprie. L'accuratezza del 93% potrebbe scendere all'80% sui tuoi pazienti — e all'80% di accuratezza, in diagnostica oncologica, i falsi negativi contano in vite. Il rischio opposto è altrettanto concreto: se i medici si fidano del 93% dichiarato e smettono di fare il doppio controllo, un sistema all'80% di cui ci si fida ciecamente diventa un rischio, non una garanzia.
Accuratezza diagnostica del sistema AI nello studio di validazione del fornitore vs nel pilota condotto su un singolo presidio della rete con la popolazione locale (dati illustrativi).
Quota di referti AI accettati dai medici senza modifica né revisione critica nel pilota locale — segnale di automation bias già nella fase sperimentale (dati illustrativi).
Sui pazienti veri l'accuratezza spesso cala: la tua popolazione è diversa da quella dei test (età, altre malattie, origini). E c'è un rischio opposto — i medici che si fidano troppo della macchina e smettono di controllare, introducendo errori nuovi. Il valore non è il software in sé, ma come lo integri nel lavoro di ogni giorno e come lo governi. Senza, sono 25 milioni di tecnologia che resta sullo scaffale, e per giunta rischiosa.
Provenienza: studio di validazione del fornitore · dati del pilota locale · letteratura sull'eccesso di fiducia nella macchina · base red-team.
Casi compositi, nel metodo della Harvard Business Review: ricostruzioni basate su situazioni reali e ricorrenti in ciascun settore, fuse e anonimizzate per tutelare la riservatezza. Le dinamiche decisionali sono autentiche; nomi, cifre e dettagli sono modificati e non riferibili a un singolo cliente o caso. Le indicazioni di «provenienza» descrivono la tipologia di evidenza che il motore cita con tracciabilità in produzione. I valori Δ-CSI illustrano l'intensità della pressione esercitata dal contraddittorio sulle assunzioni.