Hvorfor medicinen har brug for neurosymbolsk AI

I marts går en 63-årig kvinde til lægen til et almindeligt helbredstjek. En blodprøve viser, at hendes blodsukker har ligget for højt, og hun får at vide, at hun har type 2-diabetes. Hun begynder på et almindeligt lægemiddel mod sygdommen og bliver bedt om at komme igen om tre måneder.

I juni får hun taget blodprøven på et laboratorium tæt på sit arbejde, fordi det er nemmere end at køre ud til klinikken. Blodsukkeret er højere end i marts. Ved kontrolbesøget vejer sygeplejersken hende og ser, at hun har tabt omkring 4 kg, og i journalnotatet står der, at hun reagerer godt på ændringerne i sin livsstil. Både hun og lægen er tilfredse.

I august tager hun på en akutklinik med en smerte midt i ryggen, som har været der i nogle uger. Hun er ikke faldet og har ikke løftet noget tungt. Hun får et betændelsesdæmpende middel og bliver henvist til fysioterapi.

Hver af de tre læger tog sig af det, patienten kom med, og hver journal ser fornuftig ud, når man læser den for sig. Læst sammen peger de på noget, som ingen af dem viser alene, og en læge, der havde set alle tre, ville ønske at få hendes bugspytkirtel scannet.

Hvorfor de tre besøg hører sammen

Bugspytkirtlen er et lille organ, der ligger dybt bag mavesækken, op ad bagvæggen i bughulen. En af dens opgaver er at danne insulin, det hormon, der holder blodsukkeret i ave.

Det er det, der forbinder de tre besøg. En svulst i bugspytkirtlen kan forstyrre dannelsen af insulin, så blodsukkeret stiger, nogle gange før der viser sig andre tegn. Kræft kan også give et vægttab, som personen ikke har forsøgt at opnå. Og fordi bugspytkirtlen ligger tæt på rygsøjlen og dens nerver, kan en svulst dér give en dump smerte midt i ryggen.

De fleste med nyopstået diabetes har ikke kræft. Men når diabetes viser sig første gang efter 50-årsalderen, får omkring én ud af hundrede konstateret kræft i bugspytkirtlen inden for tre år, cirka otte gange så mange, som man ville forvente i den alder. Forskere på Mayo Clinic har udviklet en score, der skal finde disse patienter. Den bygger på den alder, hvor diabetes opstod, ændringen i vægt og ændringen i blodsukker. Det tæller mest, når vægten falder, mens blodsukkeret stiger.

Tidspunktet betyder noget, fordi kræft i bugspytkirtlen som regel opdages sent. Omkring halvdelen af tilfældene bliver først diagnosticeret, når kræften har spredt sig, og behandlingen kan udrette langt mindre. At finde den måneder tidligere kan ændre, hvad der er muligt.

Hos denne kvinde var de nødvendige oplysninger allerede registreret. De lå bare spredt over tre steder, og ingen så på dem samlet.

Det samme hul i overblikket virker også den anden vej. Jeg har set patienter blive hjerteudredt, når årsagen var angst og den uregelmæssige hjerterytme et symptom på den, og jeg har selv behandlet patienter som dem. Deres hjerter blev undersøgt omhyggeligt, men svaret lå et andet sted i deres historie. Når brikkerne i et menneskes helbred ligger hver for sig, overser medicinen det alvorlige og jager efter det, der ikke er alvorligt.

Hvorfor computerne ikke har løst det

Computere læser langt hurtigere end mennesker, så det er rimeligt at spørge, hvorfor de ikke allerede fanger tilfælde som dette. Forklaringen er, at det meste AI i medicinen er af én af to slags, og hver af dem ser kun en del af billedet.

Den første slags lærer af eksempler. Får den data fra millioner af tidligere patienter, lærer den, hvilke mønstre der plejede at gå forud for en sygdom. De chatbots, mange i dag bruger, er bygget sådan og trænet på meget store mængder tekst. Den slags AI er god til at lægge mærke til ting, men den kan ikke vise, hvorfor den nåede frem til en konklusion, og den lyder lige så sikker, når den tager fejl, som når den har ret. En læge kan ikke forsvarligt handle på en konklusion, hun ikke har nogen mulighed for at kontrollere.

Den anden slags følger regler, som mennesker har skrevet ned, i formen »hvis det ene, så det andet«. En regel siger klart, hvad den tjekker, og hvorfor. Men den fanger kun det, nogen har tænkt på i forvejen, og kun når oplysningerne kommer i præcis den form, reglen forventer. Den lærer ikke.

Begge tilgange er ufuldstændige, og ingen af dem er en dårlig idé.

Et dybere problem ligger i de journaler, systemerne lærer af. En stor del af en journal består af notater, og hvert notat er én persons beretning om et besøg, skrevet i en fart og præget af, hvordan netop den person så patienten. Meget af resten er lavet til afregning, med diagnoser gemt som betalingskoder. Et system, der kun lærer af det materiale, lærer også dets blinde vinkler. I 2019 fandt forskere ud af, at en algoritme, som amerikanske sundhedssystemer brugte til at udvælge patienter til en ekstra indsats, vurderede sorte patienter som raskere, end de var. Den havde lært af tidligere udgifter, og der var blevet brugt færre penge på deres behandling.

Læring og logik sammen

Gode læger bruger begge måder at tænke på. Mange års praksis lærer dem at fornemme, når noget er galt, og så holder de indtrykket op mod evidensen, før de handler. Neurosymbolsk AI er bygget på samme måde. »Neuro«-delen lærer og lægger mærke til ting, ligesom erfaring gør. Den »symbolske« del ræsonnerer med regler, ligesom en læge, der holder sit indtryk op mod evidensen.

Hos Chroneme kommer reglerne fra publiceret forskning og kliniske retningslinjer, og de virker som en linse. For hvert klinisk spørgsmål fastlægger de, hvilke oplysninger der betyder noget, og hvor meget man kan stole på kilden, så en vejning tæller mere end et ord i et notat. Inden for den ramme kan læringsdelen stadig opdage mønstre, som ingen havde tænkt på at skrive ned. Logikdelen tester derefter hvert enkelt mod evidensen, og et mønster, der ikke holder, når aldrig frem til lægen som en anbefaling.

Forestil dig den samme kvinde, nu med Chroneme til at læse hendes forløb. Hendes prøvesvar, vejninger og notater samles i én journal fra alle de steder, hun har været, i den rækkefølge, tingene skete. I juni, hvor blodsukkeret stiger, mens vægten falder, passer mønsteret med det, den publicerede score leder efter, og lægen ser fundet samme uge, to måneder før rygsmerterne begyndte. Fundet er skrevet i et almindeligt sprog og viser hvert eneste svar bag det, hvor og hvornår det blev registreret, og hvilket studie reglen bygger på. En bestilling af en scanning ligger allerede klar sammen med en besked til patienten, der forklarer grunden uden at skræmme hende. Lægen gennemgår det hele, er enig eller uenig, og skriver under.

Fordi reglerne er skrevet ned, fører de samme fakta til den samme konklusion for hver eneste patient, uanset hvem der har vagten. Når evidensen ændrer sig, opdateres reglen én gang og gælder for alle. Når noget går galt, kan man finde det sted, hvor det gik galt.

Hvad vi bygger

En bedre metode er ikke nok i sig selv. Den skal have et system at køre på, et der holder hvert menneskes journal samlet og fungerer lige så godt for den millionte patient som for den første. Det er det system, vi bygger.

Det gør også nye former for indsigt mulige. En scanning viser, hvordan kroppen ser ud indeni, sygehistorien viser, hvordan den kom dertil, og genetikken viser, hvad den var mere tilbøjelig til. Dem har forskellige specialister som regel læst hver for sig. Læst sammen og i rækkefølge afslører de kombinationer, som ingen enkelt journal indeholder.

Medicinen har i årtier vidst, hvordan god, evidensbaseret behandling ser ud. Det, der har manglet, er tiden til at anvende al den evidens på hver patient, hver dag, for ingen læge kan gennemgå hver journal mod hver retningslinje før hvert besøg. Chronemes agenter, programmer der udfører trinene i en opgave, tager sig af det forberedende arbejde. De laver udkast til ordinationer, beskeder og notater, hver med sine kilder, som en kliniker kan gennemgå og underskrive. Vurderingen bliver hos mennesker, og den sparede tid går tilbage til behandlingen.

Vi er varsomme med, hvad vi påstår. At hver konklusion kan spores og efterprøves, er allerede i dag sikret af selve designet. Om systemet har ret ofte nok til at hjælpe patienter, er et spørgsmål, evidensen må afgøre. Vi tester det efter en protokol, der blev skrevet, før nogen resultater var set, og vi vil offentliggøre det, vi finder, også dér, hvor det kommer til kort.