Un’anziana donna viveva da sola e aveva un cancro al seno che si era diffuso al fegato. Da anni, era una paziente della Northwest Medical Specialties, che si occupa di assistenza ambulatoriale ai pazienti malati di cancro in 5 cliniche a sud di Seattle (Stati Uniti), e rispondeva bene alla chemioterapia orale, anche se si lamentava spesso di quanto il trattamento la sfinisse. Ecco perché la sua dottoressa, Sibel Blau, era così sorpresa di vederla inserita nella lista dei pazienti ad alto rischio di morte entro un mese. Preoccupata, Blau ha richiesto una visita con la paziente lo stesso giorno ma tutto sembrava nella norma e la paziente è stata rimandata a casa.
Poi la clinica ha ricevuto la chiamata di un amico della donna: aveva avuto un collasso non appena arrivata a casa. È emerso che aveva un’infezione del tratto urinario che l’aveva portata ad essere settica. Avrebbe potuto morire se non avesse ricevuto cure tempestive. La paziente ha risposto bene agli antibiotici e sembrava essere tornata alla normalità. Ma poco dopo, era di nuovo presente in quella inquietante lista. A questo punto, Blau l’ha richiamata per parlare con lei e tentare di capire cosa non andava bene. Dalla conversazione, è emerso che la donna era esausta a causa della chemioterapia: “Voglio andare. Il mio corpo è sempre più debole”. Alla fine della conversazione, la paziente ha preso la decisione di interrompere la chemioterapia ed entrare in una casa di cura. Pochi mesi dopo, è morta in pace.
Questa storia è solo una delle tante in cui è coinvolto l’utilizzo dell’intelligenza artificiale nell’assistenza sanitaria. Blau ha ricevuto la lista, in cui era inclusa la sua anziana paziente, da un algoritmo di intelligenza artificiale che identifica i pazienti a rischio alto o medio di morire entro un mese esaminando le loro cartelle cliniche. Generalmente, i modelli sono costruiti intorno ai dati archiviati nelle cartelle cliniche elettroniche e si basano su varie tecniche di apprendimento automatico. Sono testati su migliaia di punti dati di pazienti curati in precedenza, come diagnosi, farmaci e l’eventuale peggioramento delle condizioni o la morte. Alcuni modelli si basano anche su dati socioeconomici e informazioni assicurative. Una volta impiegati, i modelli devono passare al setaccio le cartelle cliniche dei pazienti per prevedere se sono a rischio di elevato di morire nelle prossime settimane o nei prossimi mesi. Si basano su diverse soglie per determinare quali pazienti segnalare come a rischio. I dottori vengono a conoscenza della lista tramite una mail inviata da un coordinatore del progetto. Queste email hanno lo scopo di spingere e incoraggiare i dottori ad affrontare una delicata conversazione con i propri pazienti sui loro obiettivi, sui loro valori e sui loro desideri per le loro cure nel caso in cui le loro condizioni dovessero peggiorare.
Diversi ospedali e cliniche negli Stati Uniti stanno impiegando modelli di intelligenza artificiale all’avanguardia nelle cure palliative. Questi strumenti generano freddi calcoli attuariali per spronare i dottori a fare ai pazienti gravemente malati alcune delle domande più intime e profondamente umane. Per esempio, quali sono i loro obiettivi più importanti nel caso in cui la loro condizioni peggiori, quali abilità sono così centrali nella loro vita da non poterci rinunciare o ancora cosa sarebbero disposti a fare per avere più tempo nel caso in cui la loro salute peggiorasse.
Dottori e ricercatori che stanno sperimentando questi sistemi sostengono che stanno raccogliendo dati che suggeriscono che questi algoritmi stanno innescando importanti conversazioni che altrimenti sarebbero avvenute troppo tardi o non sarebbero avvenute affatto in assenza dell’intelligenza artificiale. Questo è indispensabile, sostengono, in un sistema sanitario in cui i dottori sono troppo impegnati e non hanno la formazione necessaria per dare priorità alle conversazioni con pazienti gravemente malati sulle cure di fine vita.
Stanford University, University of Pennsylvania e Northwest sono solo alcune delle realtà che stanno implementando questi sistemi negli Stati Uniti. Tutti i coordinatori di queste implementazioni cliniche scoraggiano i dottori dal dire ai pazienti che sono stati identificati da un sistema di intelligenza artificiale e neanche i dottori hanno intenzione di farlo perché può sembrare inopportuno e può essere un grande shock sapere che questa forza minacciosa ha previsto che potrebbero morire nei prossimi mesi. I dottori devono anche comprendere come bilanciare le loro valutazioni con le previsioni dell’intelligenza artificiale. Diversi operatori riferiscono di essere sorpresi a volte dei pazienti che il sistema segnala o di dover decidere cosa fare quando sono in disaccordo con l’algoritmo, magari perché credono che il paziente sia in un miglior stato di salute rispetto a quanto stimato dall’intelligenza artificiale o perché vogliono iniziare una conversazione con un paziente di cui sono preoccupati ma che il modello non ha segnalato. E anche quando i dottori sono d’accordo con le raccomandazioni dell’algoritmo, devono decidere quando e come affrontare un argomento così delicato con i pazienti e a quali conversazioni dare priorità quando la lista dei nomi è lunga o la giornata è particolarmente frenetica.
Tutte le scelte di progettazione e le procedure messe in atto sono volte a costruire la parte più importante del processo: la reale conversazione con il paziente. La decisione di avviare una conversazione sulla pianificazione assistenziale preventiva è influenzata anche da molti altri fattori, come le valutazioni del dottore e i sintomi e i risultati da laboratorio del paziente. Anche se i modelli segnalassero i pazienti sbagliati, i primi dati indicano che hanno il potenziale di stimolare più conversazioni sulle cure di fine vita e forse anche di stimolare cure migliori.
In uno studio dell’algoritmo dell’University of Pennsylvania, i ricercatori hanno scoperto che quando le cliniche di oncologia del sistema sanitario hanno iniziato ad usare l’algoritmo, il 4% delle visite includeva una conversazione documentata sui desideri e sugli obiettivi dei pazienti, rispetto all’1,2% delle visite nelle settimane precedenti all’impiego dell’algoritmo. Uno studio del modello di Jvion alla Northwest ha svelato che il tasso con cui sono stati condotti consulti sulle cure palliative è aumentato del 168% nei 17 mesi dopo l’utilizzo dello strumento, rispetto ai 5 mesi precedenti. E il tasso con cui i pazienti della clinica si sono rivolti a case di cure è aumentato di 8 volte.
