Varför medicinen behöver neurosymbolisk AI

I mars går en 63-årig kvinna till sin läkare för en rutinkontroll. Ett blodprov visar att hennes blodsocker har legat högt, och hon får veta att hon har typ 2-diabetes. Hon börjar med ett vanligt läkemedel mot det och ombeds komma tillbaka om tre månader.

I juni tar hon blodprov på ett labb nära jobbet, eftersom det är enklare än att köra till mottagningen. Hennes blodsocker är högre än i mars. Vid återbesöket väger sjuksköterskan henne och ser att hon har gått ner omkring fyra kilo, och i anteckningen står att hon svarar bra på livsstilsförändringarna. Både hon och hennes läkare är nöjda.

I augusti söker hon på en närakut för en värk mitt i ryggen som har funnits i några veckor. Hon har inte ramlat eller lyft något tungt. Hon får ett antiinflammatoriskt läkemedel och en remiss till fysioterapi.

Var och en av de tre läkarna gjorde det jobb som låg framför dem, och varje journal ser rimlig ut när den läses för sig. Lästa tillsammans pekar de mot något som ingen av dem visar ensam, och en läkare som såg alla tre skulle vilja röntga hennes bukspottkörtel.

Bukspottkörteln är ett litet organ som ligger djupt bakom magsäcken, mot bukhålans bakre vägg. En av dess uppgifter är att bilda insulin, hormonet som håller blodsockret i schack.

Det är det som binder ihop de tre besöken. En tumör i bukspottkörteln kan störa insulinproduktionen, så att blodsockret stiger, ibland innan något annat tecken har visat sig. Cancer kan också orsaka viktnedgång som personen inte har strävat efter. Och eftersom bukspottkörteln ligger nära ryggraden och dess nerver kan en tumör där ge en molande smärta mitt i ryggen.

De flesta som får diabetes har inte cancer. När diabetes visar sig för första gången efter 50 års ålder får dock omkring en på hundra diagnosen cancer i bukspottkörteln inom tre år, ungefär åtta gånger så ofta som väntat i den åldern. Forskare vid Mayo Clinic tog fram en poängskala för att hitta de här patienterna, byggd på åldern när diabetesen började, viktförändringen och förändringen i blodsocker. Vikt som sjunker medan blodsockret stiger väger tyngst.

Tidpunkten spelar roll, eftersom cancer i bukspottkörteln oftast upptäcks sent. Ungefär hälften av fallen diagnostiseras först när cancern redan har spridit sig, när behandlingen kan göra mycket mindre. Att hitta den månader tidigare kan förändra vad som är möjligt.

I den här kvinnans fall fanns informationen som behövdes redan dokumenterad. Den var utspridd på tre ställen, och ingen tittade på allt.

Samma glapp fungerar åt andra hållet. Jag har sett patienter gå igenom hjärtutredningar när orsaken var ångest och den oregelbundna hjärtrytmen var ett symtom på den, och jag har själv behandlat sådana patienter. Deras hjärtan undersöktes noggrant, men svaret fanns någon annanstans i deras berättelse. När bitarna av en människas hälsa ligger var för sig missar vården det som är allvarligt och jagar det som inte är det.

Datorer läser mycket snabbare än människor, så det är rimligt att fråga varför de inte redan fångar fall som det här. Skälet är att det mesta av AI i vården är av ett av två slag, och vart och ett ser bara en del av bilden.

Det första slaget lär sig av exempel. Med miljontals tidigare patienter lär det sig vilka mönster som brukade föregå en sjukdom. De chattbottar som många använder i dag är byggda så, tränade på väldigt stora mängder text. Den här sortens AI är bra på att lägga märke till saker, men den kan inte visa varför den kom fram till en slutsats, och den låter lika säker när den har fel som när den har rätt. En läkare kan inte tryggt agera på en slutsats som hon inte har något sätt att kontrollera.

Det andra slaget följer regler som människor har skrivit ner, i formen ”om det här, då det där”. En regel är tydlig med vad den kontrollerar och varför. Men den fångar bara det någon tänkt på i förväg, och bara när informationen kommer in i exakt den form regeln förväntar sig. Den lär sig inte.

Båda angreppssätten är ofullständiga, och inget av dem är en dålig idé.

Ett djupare problem finns i de journaler som systemen lär sig av. En stor del av en journal består av anteckningar, och varje anteckning är en persons redogörelse för ett besök, skriven i all hast och präglad av hur den personen såg patienten. Mycket av resten är utformat för fakturering, med diagnoser lagrade som ersättningskoder. Ett system som bara lär sig av det materialet lär sig också dess blinda fläckar. År 2019 visade forskare att en algoritm som amerikanska vårdorganisationer använde för att välja ut patienter för extra insatser bedömde svarta patienter som friskare än de var. Den hade lärt sig av tidigare kostnader, och mindre pengar hade lagts på deras vård.

Bra läkare använder båda sätten att tänka. Åratal av praktik lär dem att märka när något inte stämmer, och sedan prövar de det intrycket mot evidensen innan de agerar. Neurosymbolisk AI är byggd på samma sätt. Den ”neurala” delen lär sig och lägger märke till saker, som erfarenhet gör. Den ”symboliska” delen resonerar med regler, som en läkare gör när hon prövar mot evidensen.

På Chroneme kommer reglerna från publicerad forskning och medicinska riktlinjer, och de fungerar som en lins. För varje klinisk fråga anger de vilken information som spelar roll och hur mycket källan går att lita på, så att en vikt som uppmätts på en våg räknas mer än ett ord i en anteckning. Inom den ramen kan den lärande delen ändå upptäcka mönster som ingen tänkt på att skriva ner. Den logiska delen prövar sedan vart och ett mot evidensen, och ett mönster som inte håller når aldrig läkaren som en rekommendation.

Tänk dig samma kvinna, med Chroneme som läser hennes vård. Hennes provsvar, vikter och anteckningar förs samman i en journal, från varje ställe där hon har fått vård, i den ordning händelserna inträffade. I juni, när blodsockret stiger medan vikten sjunker, stämmer mönstret med det den publicerade poängskalan letar efter, och hennes läkare ser fyndet samma vecka, två månader innan ryggvärken började. Fyndet är skrivet på enkelt språk och visar varje provsvar bakom det, var och när vart och ett dokumenterades, och studien som regeln bygger på. En röntgenremiss är redan förberedd, tillsammans med ett meddelande till patienten som förklarar varför utan att skrämma henne. Hennes läkare går igenom det, håller med eller inte, och signerar.

Eftersom reglerna är nedskrivna leder samma fakta till samma slutsats för varje patient, oavsett vem som har jouren. När evidensen förändras uppdateras regeln en gång och gäller för alla. När något går fel går det att hitta var det gick fel.

En bättre metod räcker inte på egen hand. Den behöver ett system att köras på, ett som håller varje människas journal hel och fungerar lika bra för den miljonte patienten som för den första. Det systemet är det vi bygger.

Det gör också nya sorters insikter möjliga. En röntgenbild visar hur kroppen ser ut inuti, en sjukhistoria visar hur den kom dit, och genetiken visar vad den hade större benägenhet att göra. De har oftast lästs var för sig, av olika specialister. Lästa tillsammans och i ordning visar de kombinationer som ingen enskild journal innehåller.

Medicinen har i årtionden vetat hur god, evidensbaserad vård ser ut. Det som har saknats är tiden att tillämpa all den evidensen på varje patient, varje dag, eftersom ingen läkare kan gå igenom varje journal mot varje riktlinje före varje besök. Chronemes agenter, program som utför stegen i en uppgift, gör det förarbetet. De skriver utkast till ordinationer, meddelanden och anteckningar, vart och ett med sina källor, som en kliniker granskar och signerar. Omdömet stannar hos människor, och tiden som sparas går tillbaka till vården.

Vi är försiktiga med vad vi påstår. Att varje slutsats går att spåra och kontrollera stämmer redan i dag, eftersom systemet är byggt så. Om systemet har rätt tillräckligt ofta för att hjälpa patienter är en fråga för evidensen. Vi prövar det enligt ett protokoll som skrevs innan några resultat hade setts, och vi kommer att publicera det vi hittar, även där det brister.