Waarom de geneeskunde neurosymbolische AI nodig heeft

In maart gaat een vrouw van 63 naar haar huisarts voor een routinecontrole. Uit bloedonderzoek blijkt dat haar bloedsuiker al een tijd te hoog is, en ze hoort dat ze diabetes type 2 heeft. Ze begint met een veelgebruikt medicijn daarvoor en moet over drie maanden terugkomen.

In juni laat ze bloed prikken bij een lab vlak bij haar werk, omdat dat makkelijker is dan naar de praktijk rijden. Haar suiker is hoger dan in maart. Bij de controle weegt de verpleegkundige haar en blijkt ze ruim vier kilo te zijn afgevallen. In de notitie staat dat ze goed reageert op de aanpassingen in haar leefstijl. Zij en haar arts zijn allebei tevreden.

In augustus gaat ze naar een spoedkliniek met pijn midden in haar rug, die er al een paar weken zit. Ze is niet gevallen en heeft niets zwaars getild. Ze krijgt een ontstekingsremmer en een verwijzing naar de fysiotherapeut.

Alle drie de artsen deden wat er van hen gevraagd werd, en elk dossier ziet er op zichzelf redelijk uit. Samen gelezen wijzen ze op iets wat geen van de drie alleen laat zien, en een arts die alle drie zag, zou een scan van haar alvleesklier willen.

De alvleesklier is een klein orgaan dat diep achter de maag ligt, tegen de achterwand van de buik. Een van de taken ervan is insuline maken, het hormoon dat de bloedsuiker in toom houdt.

Dit is wat de drie bezoeken verbindt. Een tumor in de alvleesklier kan de aanmaak van insuline verstoren, waardoor de bloedsuiker stijgt, soms nog voordat er een ander teken is. Kanker kan ook gewichtsverlies veroorzaken zonder dat iemand probeert af te vallen. En omdat de alvleesklier dicht bij de wervelkolom en de zenuwen daar ligt, kan een tumor op die plek een doffe pijn midden in de rug geven.

De meeste mensen met nieuwe diabetes hebben geen kanker. Maar als diabetes voor het eerst ontstaat na je vijftigste, krijgt ongeveer een op de honderd binnen drie jaar de diagnose alvleesklierkanker, zo'n acht keer zo vaak als je op die leeftijd zou verwachten. Onderzoekers van de Mayo Clinic maakten een score om deze patiënten te vinden, gebaseerd op de leeftijd waarop de diabetes begon, de verandering in gewicht en de verandering in bloedsuiker. Gewicht dat daalt terwijl de suiker stijgt, telt het zwaarst.

De timing doet ertoe, omdat alvleesklierkanker meestal laat wordt ontdekt. Ongeveer de helft van de gevallen wordt pas vastgesteld als de kanker al is uitgezaaid, wanneer behandeling veel minder kan doen. Het maanden eerder vinden kan veranderen wat er mogelijk is.

Bij deze vrouw was de informatie die nodig was al vastgelegd. Ze lag verspreid over drie plekken, en niemand keek naar het geheel.

Hetzelfde gat werkt ook andersom. Ik heb patiënten een hartonderzoek zien ondergaan terwijl de oorzaak angst was en de onregelmatige hartslag daar een symptoom van, en ik heb zulke patiënten zelf behandeld. Hun hart werd zorgvuldig onderzocht, maar het antwoord lag elders in hun verhaal. Als de stukjes van iemands gezondheid los van elkaar liggen, mist de geneeskunde wat ernstig is en jaagt ze na wat niet ernstig is.

Computers lezen veel sneller dan mensen, dus het is een redelijke vraag waarom ze zulke gevallen niet al opmerken. De reden is dat de meeste AI in de geneeskunde van een van twee soorten is, en elke soort ziet maar een deel van het geheel.

De eerste soort leert van voorbeelden. Uit miljoenen eerdere patiënten leert ze welke patronen vaak aan een ziekte voorafgingen. De chatbots die veel mensen nu gebruiken, zijn zo gebouwd, getraind op enorme hoeveelheden tekst. Deze AI is goed in opmerken, maar kan niet laten zien waarom ze tot een conclusie kwam, en klinkt even zeker als ze ernaast zit als wanneer ze gelijk heeft. Een arts kan niet veilig handelen op een conclusie die ze op geen enkele manier kan controleren.

De tweede soort volgt regels die mensen hebben opgeschreven, in de vorm ‘als dit, dan dat’. Een regel is duidelijk over wat hij controleert en waarom. Maar hij vangt alleen op waar iemand vooraf aan heeft gedacht, en alleen als de informatie binnenkomt in precies de vorm die de regel verwacht. Hij leert niet.

Elke aanpak is maar een deel, en geen van beide is een slecht idee.

Een dieper probleem zit in de dossiers waar deze systemen van leren. Een groot deel van een medisch dossier bestaat uit notities, en elke notitie is het verslag van één persoon over één bezoek, snel geschreven en gekleurd door hoe die persoon de patiënt zag. Veel van de rest is ontworpen voor de declaratie, met diagnoses opgeslagen als betaalcodes. Een systeem dat alleen van dit materiaal leert, leert ook de blinde vlekken ervan. In 2019 ontdekten onderzoekers dat een algoritme dat Amerikaanse zorgsystemen gebruikten om patiënten te kiezen voor extra zorg, zwarte patiënten gezonder inschatte dan ze waren. Het had geleerd van eerdere uitgaven, en aan hun zorg was minder uitgegeven.

Goede artsen gebruiken beide manieren van denken. Jaren praktijk leren hen opmerken wanneer er iets niet klopt, en daarna toetsen ze die indruk aan het bewijs voordat ze handelen. Neurosymbolische AI is op dezelfde manier gebouwd. Het ‘neuro’-deel leert en merkt op, zoals ervaring dat doet. Het ‘symbolische’ deel redeneert met regels, zoals een arts doet die iets aan het bewijs toetst.

Bij Chroneme komen de regels uit gepubliceerd onderzoek en medische richtlijnen, en ze werken als een lens. Voor elke klinische vraag leggen ze vast welke informatie ertoe doet en hoeveel je de bron ervan kunt vertrouwen, zodat een gewicht dat op een weegschaal is gemeten zwaarder telt dan een woord in een notitie. Binnen dat kader kan het lerende deel nog steeds patronen opmerken waar niemand aan had gedacht om ze op te schrijven. Het logische deel toetst er daarna elk aan het bewijs, en een patroon dat geen stand houdt, bereikt de arts nooit als aanbeveling.

Neem dezelfde vrouw, met Chroneme dat haar zorg meeleest. Haar labuitslagen, gewichten en notities komen samen in één dossier, van elke plek waar ze is geweest, in de volgorde waarin het gebeurde. Als in juni haar suiker stijgt terwijl haar gewicht daalt, past het patroon bij waar de gepubliceerde score naar zoekt, en ziet haar arts de bevinding nog diezelfde week, twee maanden voordat de rugpijn begon. De bevinding staat er in gewone taal, met elke uitslag waarop ze berust, waar en wanneer die is vastgelegd, en de studie waar de regel op is gebaseerd. Een aanvraag voor een scan staat al klaar, samen met een bericht aan de patiënt dat de reden uitlegt zonder haar ongerust te maken. Haar arts bekijkt het, is het ermee eens of niet, en tekent.

Omdat de regels zijn opgeschreven, leiden dezelfde feiten bij elke patiënt tot dezelfde conclusie, wie er ook dienst heeft. Verandert het bewijs, dan wordt de regel één keer aangepast en geldt hij voor iedereen. Gaat er iets mis, dan is te vinden waar het misging.

Een betere methode is op zichzelf niet genoeg. Ze heeft een systeem nodig om op te draaien, een systeem dat het dossier van elke persoon heel houdt en voor de miljoenste patiënt even goed werkt als voor de eerste. Dat systeem bouwen wij.

Het maakt ook nieuwe soorten inzicht mogelijk. Een scan laat zien hoe het lichaam er vanbinnen uitziet, een voorgeschiedenis laat zien hoe het zover kwam, en genetica laat zien waartoe het meer geneigd was. Die werden meestal los van elkaar gelezen, door verschillende specialisten. Samen en in volgorde gelezen laten ze combinaties zien die in geen enkel afzonderlijk dossier staan.

De geneeskunde weet al tientallen jaren hoe goede, op bewijs gebaseerde zorg eruitziet. Wat ontbrak, is de tijd om al dat bewijs elke dag op elke patiënt toe te passen, want geen arts kan voor elk consult elk dossier naast elke richtlijn leggen. De agents van Chroneme, programma's die de stappen van een taak uitvoeren, doen dat voorbereidende werk. Ze stellen de orders, berichten en notities op, elk met de bronnen erbij, zodat een zorgverlener ze kan nakijken en tekenen. Het oordeel blijft bij mensen, en de tijd die het oplevert, gaat terug naar de zorg.

We zijn voorzichtig met wat we beweren. Dat elke conclusie te herleiden en te controleren is, klopt vandaag al, omdat het systeem zo is ontworpen. Of het systeem vaak genoeg gelijk heeft om patiënten te helpen, is een vraag voor het bewijs. We testen het volgens een protocol dat is opgesteld voordat er ook maar één uitkomst bekend was, en we publiceren wat we vinden, ook waar het tekortschiet.