Perché la medicina ha bisogno dell’IA neurosimbolica

A marzo una donna di 63 anni va dal suo medico per un controllo di routine. Un esame del sangue mostra che da un po’ di tempo ha la glicemia alta, e le viene detto che ha il diabete di tipo 2. Comincia un farmaco comune per curarlo e le chiedono di tornare dopo tre mesi.

A giugno fa il prelievo in un laboratorio vicino all’ufficio, cosa più comoda che prendere la macchina fino all’ambulatorio. La glicemia è più alta che a marzo. Alla visita di controllo l’infermiera la pesa e scopre che è dimagrita di circa quattro chili, e nella nota si legge che sta rispondendo bene ai cambiamenti dello stile di vita. Lei e il suo medico sono soddisfatti.

Ad agosto si rivolge a un ambulatorio di urgent care per un dolore a metà schiena che si trascina da qualche settimana. Non è caduta e non ha sollevato nulla di pesante. Le danno un antinfiammatorio e la indirizzano alla fisioterapia.

Ognuno dei tre medici ha fatto il proprio lavoro con ciò che aveva davanti, e ogni cartella, presa singolarmente, sembra ragionevole. Lette insieme, indicano qualcosa che nessuna mostra da sola, e un medico che le avesse viste tutte e tre vorrebbe un esame di imaging del pancreas.

Perché le tre visite vanno lette insieme

Il pancreas è un piccolo organo che si trova in profondità, dietro lo stomaco, contro la parete posteriore dell’addome. Uno dei suoi compiti è produrre l’insulina, l’ormone che tiene sotto controllo la glicemia.

È questo che lega le tre visite. Un tumore del pancreas può alterare la produzione di insulina, e così la glicemia sale, a volte prima che compaia qualsiasi altro segno. Il cancro può anche far perdere peso senza che la persona ci abbia provato. E poiché il pancreas si trova vicino alla colonna vertebrale e ai suoi nervi, un tumore in quella sede può dare un dolore sordo a metà schiena.

La maggior parte delle persone con un diabete appena diagnosticato non ha un tumore. Quando però il diabete compare per la prima volta dopo i 50 anni, circa una persona su cento riceve una diagnosi di tumore del pancreas entro tre anni, all’incirca otto volte il tasso atteso a quell’età. Alcuni ricercatori della Mayo Clinic hanno messo a punto un punteggio per individuare questi pazienti, basato sull’età di esordio del diabete, sulla variazione del peso e sulla variazione della glicemia. A contare di più è il peso che scende mentre la glicemia sale.

I tempi contano perché il tumore del pancreas di solito viene scoperto tardi. Circa la metà dei casi è diagnosticata solo quando il tumore si è già diffuso, e le cure possono fare molto meno. Scoprirlo mesi prima può cambiare ciò che è possibile fare.

Nel caso di questa donna, le informazioni necessarie erano già registrate. Erano sparse in tre posti, e nessuno le guardava tutte insieme.

Lo stesso vuoto agisce anche nella direzione opposta. Ho visto pazienti sottoposti ad accertamenti cardiologici quando la causa era l’ansia e il battito irregolare ne era il sintomo, e io stesso ho curato pazienti così. Il loro cuore è stato controllato con scrupolo, ma la risposta stava altrove nella loro storia. Quando i pezzi della salute di una persona restano separati, la medicina si lascia sfuggire ciò che è grave e insegue ciò che non lo è.

Perché i computer non hanno risolto il problema

I computer leggono molto più in fretta delle persone, quindi è legittimo chiedersi perché non intercettino già casi come questo. Il motivo è che la maggior parte dell’IA usata in medicina appartiene a uno di due tipi, e ciascuno vede solo una parte del quadro.

Il primo tipo impara dagli esempi. Partendo da milioni di pazienti del passato, impara quali schemi tendevano a precedere una malattia. I chatbot che oggi molti usano sono costruiti così, addestrati su enormi quantità di testo. Questo tipo di IA ha occhio, ma non sa mostrare perché è arrivato a una conclusione, e quando sbaglia sembra sicuro di sé quanto quando ha ragione. Una dottoressa non può agire in sicurezza su una conclusione che non ha modo di verificare.

Il secondo tipo segue regole scritte da persone, nella forma “se succede questo, allora quello”. Una regola è chiara su che cosa controlla e perché. Però coglie solo ciò a cui qualcuno ha pensato in anticipo, e solo quando l’informazione arriva esattamente nella forma che la regola si aspetta. Non impara.

Ciascun approccio è parziale, e nessuno dei due è una cattiva idea.

Un problema più profondo sta nelle cartelle da cui questi sistemi imparano. Gran parte di una cartella clinica è fatta di note, e ogni nota è il resoconto di una visita fatto da una sola persona, scritto in fretta e condizionato da come quella persona ha visto il paziente. Buona parte del resto è stata pensata per la fatturazione, con le diagnosi archiviate come codici di pagamento. Un sistema che impara solo da questo materiale ne impara anche i punti ciechi. Nel 2019 alcuni ricercatori hanno scoperto che un algoritmo usato dai sistemi sanitari americani per scegliere i pazienti a cui offrire un’assistenza aggiuntiva giudicava i pazienti neri più sani di quanto fossero. Aveva imparato dalla spesa passata, e per la loro assistenza si era speso meno.

Apprendimento e logica insieme

I buoni medici usano entrambi i modi di pensare. Anni di pratica insegnano loro ad accorgersi quando qualcosa non torna, e poi verificano quell’impressione alla luce delle evidenze prima di agire. L’IA neurosimbolica è costruita allo stesso modo. La parte “neuro” impara e si accorge, come fa l’esperienza. La parte “simbolica” ragiona con regole, come fa un medico quando verifica alla luce delle evidenze.

In Chroneme le regole vengono dalla ricerca pubblicata e dalle linee guida mediche, e funzionano come una lente. Per ogni domanda clinica stabiliscono quali informazioni contano e quanto fidarsi della loro fonte, così che un peso misurato su una bilancia valga più di una parola in una nota. Dentro questa cornice, la parte che apprende può comunque notare schemi che a nessuno era venuto in mente di mettere per iscritto. La parte logica poi mette alla prova ciascuno di essi con le evidenze, e uno schema che non regge non arriva mai al medico come raccomandazione.

Riprendiamo la stessa donna, questa volta con Chroneme che ne legge il percorso di cura. Gli esami di laboratorio, le pesate e le note vengono riuniti in un’unica cartella, da ogni luogo in cui è stata visitata, nell’ordine in cui i fatti sono avvenuti. A giugno, quando la glicemia sale mentre il peso scende, lo schema corrisponde a ciò che cerca il punteggio pubblicato, e il suo medico vede la segnalazione quella stessa settimana, due mesi prima che compaia il mal di schiena. La segnalazione è scritta in parole semplici e mostra ogni risultato su cui si basa, dove e quando ciascuno è stato registrato, e lo studio da cui la regola è tratta. È già pronta una richiesta di esame di imaging, insieme a un messaggio per la paziente che spiega il motivo senza allarmarla. Il medico la esamina, è d’accordo o no, e firma.

Poiché le regole sono scritte, gli stessi fatti portano alla stessa conclusione per ogni paziente, chiunque sia di turno. Quando le evidenze cambiano, la regola viene aggiornata una volta e vale per tutti. Quando qualcosa va storto, si può risalire al punto in cui il sistema ha fallito.

Che cosa stiamo costruendo

Un metodo migliore da solo non basta. Ha bisogno di un sistema su cui girare, che tenga integra la storia di ogni persona e funzioni bene per il milionesimo paziente come per il primo. È questo il sistema che stiamo costruendo.

Rende possibili anche intuizioni di tipo nuovo. Un esame di imaging mostra com’è il corpo dentro, la storia clinica mostra come ci è arrivato, e la genetica che cosa era più incline a fare. Queste informazioni sono state di solito lette separatamente, da specialisti diversi. Lette insieme e in ordine, rivelano combinazioni che nessuna singola cartella contiene.

Da decenni la medicina sa che aspetto ha una buona assistenza basata sulle evidenze. Le è mancato il tempo per applicare tutte quelle evidenze a ogni paziente, ogni giorno, perché nessun medico può confrontare ogni cartella con ogni linea guida prima di ogni visita. Gli agenti di Chroneme, programmi che eseguono i passaggi di un compito, si occupano di questa preparazione. Redigono le richieste, i messaggi e le note, ciascuno con le sue fonti, perché un clinico li esamini e li firmi. Il giudizio resta alle persone, e il tempo risparmiato torna alla cura.

Siamo cauti in ciò che affermiamo. Che ogni conclusione si possa ricostruire e verificare è vero già oggi, per come il sistema è progettato. Se il sistema abbia ragione abbastanza spesso da aiutare i pazienti è una questione che spetta alle evidenze. Lo stiamo mettendo alla prova secondo un protocollo scritto prima di vedere qualsiasi risultato, e pubblicheremo ciò che troveremo, compresi i punti in cui non è all’altezza.