L'introduzione delle intelligenze artificiali cambia ogni giorno il mondo che consociamo spingendolo verso nuove forme di conoscenza, di capacità tecnologiche e di relazioni sociali. Anche un campo così importante come la medicina subisce queste trasformazioni. Ma le trasformazioni della medicina con l'AI riguardano solo la medicina o sono trasformazioni più profonde con conseguenze ben maggiori di quelle che potremmo pensare? Cosa stiamo facendo?
Babylon Health è un fornitore di servizi sanitari in abbonamento operativo. La società ha iniziato una collaborazione con il sistema sanitario inglese - NHS - e a Londra che fornisce consulenze a distanza con medici e operatori sanitari tramite messaggi di testo e video tramite la sua applicazione mobile. Il servizio consente inoltre agli utenti di ricevere prescrizioni di farmaci, rinvii a visite specialistiche e prenotare esami sanitari. L'App Babylon utilizza anche un Symptom Checker Chatbot, che mira a fornire ai pazienti informazioni rilevanti sulla salute e sul triage in base ai loro sintomi. L'introduzione di questo sistema nel National Health Service, il sistema sanitario inglese, chiede di essere analizzato con cura.
Come funziona?
Iniziamo dal cercare di capire di cosa si tratta. E siccome un video vale più di mille parole inizio col suggerire a tutti di vedere la presentazione del portale che la Babylon stessa ha reso disponibile su Youtube:
Il video demo del portale di Babylon Health
Questo video ci mostra una chiamata per una visita con il medico di famiglia in tempo reale. Per accedere al medico di sono necessari alcuni passi. L'utente, in qualsiasi momento - è un servizio 7/24, cioè 7 giorni a settimana 24 ore al giorno - può rispondere ad alcune domande sulla sua app e poi essere introdotto ad una chiamata video (una sorta di Skype call) con il General Practitioner o GP che corrisponde al medico di famiglia nel sistema italiano.
La vista che abbiamo è quella dal lato del medico: in altri termini è come se noi fossimo il medico che conduce la chiamata skype e sul suo device vediamo non solo il volto della giovane paziente che ci chiama ma anche tutti i dati sanitari della paziente e la diagnosi della AI che accompagna la chiamata.
L'interfaccia del portale dal lato del medico
Il paziente invece utilizzando il suo smartphone si troverà davanti a una app che funziona come un hub sanitario offrendo vari servizi:
La app che il paziente può usare per avere il consulto medico
Dopo un primo screaning mediante domande con un chat bot l'app connette la paziente con una classica videochiamata al suo medico di famiglia come mostrano l'immagine qui sotto:
Dopo le prime domande la videochiamata
Dal video sappiamo che la paziente si chiama Louise e il medico si presenta come dottor Cohntagattcha - se abbiamo capito lo spelling - e la conversazione che segue dopo i saluti di rito continua seguendo un copione che è in un certo senso guidato dalla macchina.
Con il picture in picture, come nelle chiamate skype, il medico vede la paziente
Infatti proprio sotto la parte della video chiamata c'è uno spazio dove l'AI suggerisce le domande da fare alla paziente e subito sotto dinamicamente, in base alle risposte si va configurando la diagnosi:
Subito sotto il live video della chiamata, le domande suggerite e la diagnosi
Come ci mostra il video l'AI segue in tempo reale la conversazione medico paziente e ne fa una trascrizione fedele che il medico può seguire nel pannello di destra - parte centrale. La conversazione viene marcata dalla macchina che rileva nel dialogo e nelle risposte le parole che sono significative nell'elaborazione della diagnosi dividendole: nella history of the present illness - HPI - cioè tutte le domande che riguardano i sintomi principali; nella family history - FamHX - cioè delle informazioni sui disturbi da cui hanno sofferto i parenti diretti del paziente e nella social history - SocHx - cioè una parte della storia medica (e quindi la nota di ammissione ) che affronta aspetti familiari, occupazionali e ricreativi della vita personale del paziente che hanno il potenziale per essere clinicamente significativi. L'ultima colonna il Plan include un breve riassunto del problema, includendo forse ciò che è stato fatto finora e le prescrizioni per farmaci, analisi laboratoriali, studi, procedure e interventi chirurgici per affrontare il problema - tutto questo nella parte superiore dello schermo. Infine la parte inferiore contiene delle note mediche per il medico.
Nella colonna di destra i clinical codes, la trascrizione in tempo reale della conversazione e le note mediche
Nella parte sinistra del portale compaiono invece due riquadri. In quello superiore il medico trova, aggiornata in tempo reale dell'AI la cartella clinica del paziente. Nella parte inferiore invece il digital twin o "gemello digitale" che nelle parole dell'azienda si presenta come una simulazione digitale dello stato attuale di salute del paziente
Nella colonna di sinistra la cartella clinica del paziente e il Digital Twin
Il sistema però non si limita fare da sistema diagnostico esperto ma guida anche il medico nella relazione con il paziente. Vediamo questo assistente in opera due volte nel video. Una prima volte quando il medico chiede se questo "cambiando la posizione della testa, questo provoca vertigini?". Una banda rosa compare sopra il volto della paziente e avverte il medico che la paziente è confusa. Allora il medico riformula la domanda: "scusa, quello che intendo dire è se hai le vertigini ad esempio quando giri la testa per guardare da un lato o quando ti giri nel letto?". A questa seconda domanda la paziente risponde senza problemi. Una seconda volta la macchina avverte il medico che qualche cosa non va. Al momento di comunicare la diagnosi, o meglio al momento in cui il GP dice che è concorde con quanto dice la macchina l'analisi facciale e del tono della voce riconosce uno stato di stress. A questo punto il medico chiede cosa non va e la paziente comunica i suoi timori per qualcosa di più serio. Il medico allora risponde che i sintomi possono sembrare seri ed essere dolorosi ma che non sono cause di cui preoccuparsi. La macchina conferma che la paziente ora è serena. Il momento in cui la macchina interviene è quando è visibile nella finestra centrale un'analisi del volto, una banda rosa in alto e un cerchio con un diagramma del parlato:
Un momento in cui la macchina esegue una lettura dell'espressione e dellla voce della paziente
L'esempio scelto da Babylon Health è particolarmente interessante. La sindrome di Ménière infatti è una patologia rara che colpisce l'orecchio interno.Può causare vertigini, acufene (percezione di rumori acuti o “fischi”), perdita dell'udito e sensazione di pressione nell'orecchio. Meno frequentemente, provoca ipersensibilità al suono (iperacusia) e distorsioni nella percezione. Gli attacchi sono improvvisi e durano solitamente due o tre ore. Il quadro sintomatologico può essere completo o parziale. Talvolta, la remissione totale richiede anche un paio di giorni. La gravità e i sintomi della malattia di Ménière variano da persona a persona. Alcuni lamentano frequentemente degli attacchi di vertigini con perdita totale dell'udito; altri dichiarano gravi acufeni con vertigini meno intense.
La rarità della sindrome vuole dimostrare la capacità della macchina di intervenire in diagnosi anche complesse, la gravità dei sintomi - che preoccupa notevolmente la paziente - e la gestione di tutta la logotecnica clinica - dalle domande che non vengono capite fino alle risposte stressate o le emozioni negative del paziente - mostrano quanto questo sistema prometta un'assistenza sanitaria più umana e attenta anche alle emozioni del paziente.
Ma è così? Diventa necessario farsi qualche domanda.
Alcune domande
Proviamo a porre alcune questioni a diversi livelli che emergono da questa applicazione di AI cercando di far vedere le conseguenze etiche e sociali che potrebbero derivare dall'implementazione di sistemi come quello di Babylon.
Una prima questione che emerge guardando il sistema prodotto da Babylon è quale sia il ruolo del medico in questo approccio sanitario. Infatti a ben vedere il medico segue le domande suggerite dalla macchina, presta la sua voce al sistema e sotto la guida dell'AI corregge il modo che ha di comunicare al paziente se la risposta cognitiva o emotiva della persona è ritenuta non soddisfacente. La parte umana dell'atto medico qui sembra essere ridotta all'osso. Di fatto dopo un percorso di studi che può durare anche dieci anni il medico non sembra svolgere un lavoro troppo differente da quello di un operatore di un call center. Certo sarà un operatore molto qualificato ma la funzione sembra essere la stessa. Cosa rimane della figura del medico?
Una seconda questione che emerge prepotentemente è il possibile deskilling dei medici. Già da tempo numerosi studi mostrano che l'introduzione della tecnologia e delle cartelle cliniche elettroniche influenzano molto negativamente le capacità diagnostiche dei medici e la loro capacità professionale. Negli US per esempio i medici di base percepiscono e sperimentano l'uso di cartelle cliniche elettroniche e di linee guida cliniche in modi che indicano un profondo deskilling. I risultati del deskilling comprendono una riduzione delle conoscenze cliniche, una diminuzione della fiducia dei pazienti, un aumento della stereotipizzazione dei pazienti e una diminuzione della fiducia nel prendere decisioni cliniche. I medici sono coinvolti attivamente nel processo di deskilling attraverso le scelte adattive fatte quando incorporano le innovazioni nel loro lavoro quotidiano. Questo sistema aumenta o diminuisce le capacità del medico?
L'analisi predittiva applicata dai sistemi come quello di Babylon è un campo di indagine matematica che comprende una varietà di tecniche statistiche della modellazione predittiva, apprendimento automatico, e data mining che analizza fatti storici e attuali per fare predizioni sul futuro o su eventi sconosciuti. Negli affari, i modelli predittivi ricercano schemi in dati storici e transazionali per identificare rischi e opportunità. I modelli trovano relazioni tra molti fattori che permettono valutazioni del rischio o del rischio potenzialmente associato con un insieme particolari di condizioni, guidando la presa di decisioni. Questi approcci tecnici forniscono un punteggio di predittività (probabilità) per ogni individuo (Cliente, impiegato, prodotto, SKU, veicolo, componente, macchina...) per determinare, informare o influenzare i processi organizzativi che appartengono ad un gran numero di individui. L'analisi predittiva è usata in scienze attuariali, marketing, servizi finanziari, assicurazioni, telecomunicazioni, rivendita al dettaglio, nel settore turistico, della salute e delle scelte pubbliche. Il campo di utilizzo in questo caso è quanto mai singolare: la diagnosi medica sull'inferenza di parole chiave nell'anamnesi medica. L'anamnesi è il primo dei tre processi utilizzati nella fase analitica del processo diagnostico. Gli altri sono l'esame obiettivo e gli esami strumentali. L'anamnesi, in medicina, è la raccolta dalla voce diretta del paziente e/o dei suoi familiari (per esempio i genitori nel caso di un lattante o di un bambino), di tutte quelle informazioni, notizie e sensazioni che possono aiutare il medico, l'infermiere e le altre professioni sanitarie a indirizzarsi verso una corretta diagnosi di patologia o una adeguata procedura sanitaria. Affidare la diagnosi a un'AI che lavora solo su questo pone non pochi problemi. Sia sull'affidabilità del sistema quanto sul possibile scarto tra il modello predittivo e la realtà. Se anche fossimo in grado di dimostrare un errore tollerabile nella diagnosi, cioè che la macchina identifica tutte le occorrenze di quella patologia con una percentuale maggiore o uguale a quella di un medico medio, ancora altre questioni rimangono aperte. In primo luogo se la macchina identifica il 90% delle labirintiti non è equivalente a dire che la macchina esegue il 90% delle diagnosi dei pazienti in maniera corretta. Inoltre bisogna chiedersi come i programmatori abbiano considerato la devianza dal modello predittivo. In altri termini parliamo di campane di Gauss, distribuzioni normali e deviazioni standard o di persone?
Una questione rilevante è anche il ruolo che il software ha sull'identificazione e lo svolgimento della professione medica. Fino ad oggi un medico è una persona che ha provato mediante un titolo legalmente riconosciuto di avere le adeguate conoscenze scientifiche in ambito medico. Inoltre serve aver conseguito l'abilitazione e in molti casi aver conseguito una specializzazione ulteriore. Fino ad oggi erano i titoli e la volontà dichiarata di impegno per la collettività, il famoso giuramento di Ippocrate, che istituivano e abilitavano un medico. Con Babylon Health servirà anche una password e una login al loro servizio cloud. Saranno i servizi pagati all'azienda che renderanno il medico in grado di professare la sua professione. Quanto costerà avere questo servizio? Quanto del salario del medico "mangerà" il servizio AI? ma ancora più radicalmente, esercitare la medicina in forza di una laurea o per un abbonamento a un cloud?
Se si cammina nelle strade di Londra si leggono cartelli pubblicitari su Babylon Health che invitano i cittadini a passare ai loro general practitioner. La cosa è quanto mai singolare. L'introduzione dei servizi della società di AI porta una competizione e un advertising in un mercato che non lo conosceva. La sanità pubblica non ha bisogno di concorrenza. Ora una parte di questa fa concorrenza a se stessa. L'introduzione delle AI deve essere fatto secondo un modello in cui la macchina diventa un competitor dell'uomo?
Infine dobbiamo chiederci quali saranno le conseguenze per la sanità, specie per i modelli che prevedono un sistema pubblico. Per inquadrare bene lo scenario ci serve partire dalla storia recente. Non molto tempo fa la città di Chicago ha consegnato il controllo dei suoi parchimetri a un gruppo di investitori privati. I funzionari hanno pubblicizzato l’accordo come un’innovativa “win-win situation” — un’espressione idiomatica inglese che indica un accordo da cui entrambe le parti emergono con un vantaggio. La municipalità di Chicago, in cambio di un contratto di affitto di 75 anni, ricevette una somma forfettaria che andava a colmare un vuoto di bilancio cittadino. La prospettiva storica ci fa riconoscere che quel grosso pagamento anticipato era di gran lunga inferiore ai potenziali guadagni dei contatori: era almeno di 1 miliardo di dollari troppo basso. Al momento Babylon sembra promettere che il suo sistema possa far risparmiare soldi a una sanità pubblica sempre più in difficoltà ma è un vero risparmio? Ad oggi non è chiaro se il NHS possa ottenere utili e guadagni dalla sua partnership con Babylon. Quello che è certo è che nel frattempo, Babylon Health diventerà capace di acquisire knowledge e capacità di intelligence sulla salute e sull'evoluzione delle condizioni cliniche dei cittadini britannici. Babylon saprà come sono distribuite le patologie, come queste evolvono, che connessione tra fattori secondari e condizioni mediche, l’efficacia delle terapie, le strategie di mitigazione di epidemie e anche dati sulle abitudini sessuali degli inglesi e sulle malattie sessualmente trasmissibili. I dati raccolti possono portare a miniere di informazioni ancora inimmaginabili. Questo know-how, inoltre, potrà essere rivenduto alle sanità e alle assicurazioni sanitarie di tutto il mondo. Compreso, paradossalmente, l'NHS stessa. Da ora in poi sarà ancora possibile una sanità pubblica?