Warum die Medizin neurosymbolische KI braucht

Im März geht eine 63-jährige Frau zur Routineuntersuchung zu ihrem Arzt. Eine Blutuntersuchung zeigt, dass ihr Blutzucker schon seit einer Weile zu hoch ist, und sie erfährt, dass sie Typ-2-Diabetes hat. Sie beginnt mit einem gängigen Medikament dagegen und soll in drei Monaten wiederkommen.

Im Juni lässt sie sich in einem Labor nahe ihrem Büro Blut abnehmen; das ist einfacher, als zur Praxis zu fahren. Ihr Blutzucker ist höher als im März. Beim Kontrolltermin wiegt die Pflegekraft sie und stellt fest, dass sie etwa vier Kilo abgenommen hat, und in der Akte wird vermerkt, dass sie gut auf die Umstellung ihres Lebensstils anspricht. Sie und ihr Arzt sind beide zufrieden.

Im August geht sie in eine Urgent-Care-Praxis, weil sie seit einigen Wochen Schmerzen mitten im Rücken hat. Sie ist nicht gestürzt und hat nichts Schweres gehoben. Sie bekommt ein entzündungshemmendes Mittel und eine Überweisung zur Physiotherapie.

Jeder der drei Ärzte hat getan, was in diesem Moment anstand, und jede Akte wirkt für sich genommen plausibel. Zusammen gelesen deuten sie auf etwas hin, das keine allein zeigt, und ein Arzt, der alle drei gesehen hätte, würde eine Bildgebung ihrer Bauchspeicheldrüse veranlassen wollen.

Warum die drei Termine zusammengehören

Die Bauchspeicheldrüse ist ein kleines Organ, das tief hinter dem Magen an der hinteren Bauchwand liegt. Eine ihrer Aufgaben ist es, Insulin zu bilden, das Hormon, das den Blutzucker in Schach hält.

Genau das verbindet die drei Termine. Ein Tumor der Bauchspeicheldrüse kann die Insulinbildung stören, sodass der Blutzucker steigt, manchmal noch bevor sich irgendein anderes Zeichen zeigt. Krebs kann außerdem zu ungewolltem Gewichtsverlust führen. Und weil die Bauchspeicheldrüse nah an der Wirbelsäule und ihren Nerven liegt, kann ein Tumor dort einen dumpfen Schmerz in der Rückenmitte verursachen.

Die meisten Menschen mit neu aufgetretenem Diabetes haben keinen Krebs. Tritt der Diabetes jedoch erstmals nach dem 50. Lebensjahr auf, erhält etwa einer von hundert innerhalb von drei Jahren die Diagnose Bauchspeicheldrüsenkrebs, rund achtmal so häufig wie in diesem Alter zu erwarten. Forscher der Mayo Clinic haben einen Score entwickelt, um diese Patienten zu finden. Er beruht auf dem Alter bei Diabetesbeginn, der Gewichtsveränderung und der Veränderung des Blutzuckers. Am meisten zählt ein Gewicht, das sinkt, während der Zucker steigt.

Auf den Zeitpunkt kommt es an, weil Bauchspeicheldrüsenkrebs meist spät entdeckt wird. Etwa die Hälfte der Fälle wird erst diagnostiziert, wenn der Krebs bereits gestreut hat und die Behandlung viel weniger ausrichten kann. Ihn Monate früher zu finden, kann verändern, was möglich ist.

Bei dieser Frau waren die nötigen Informationen bereits erfasst. Sie lagen an drei verschiedenen Stellen, und niemand sah sie sich zusammen an.

Dieselbe Lücke wirkt auch in die andere Richtung. Ich habe erlebt, wie Patienten kardiologisch abgeklärt wurden, obwohl die Ursache Angst war und der unregelmäßige Herzschlag deren Symptom, und ich habe solche Patienten selbst behandelt. Ihr Herz wurde sorgfältig untersucht, aber die Antwort lag an anderer Stelle in ihrer Geschichte. Wenn die Teile der Gesundheit eines Menschen getrennt bleiben, übersieht die Medizin, was ernst ist, und jagt dem nach, was es nicht ist.

Warum Computer das bisher nicht gelöst haben

Computer lesen weit schneller als Menschen, und so darf man fragen, warum sie solche Fälle nicht längst erkennen. Der Grund ist, dass der größte Teil der KI in der Medizin zu einer von zwei Arten gehört und jede nur einen Teil des Bildes sieht.

Die erste Art lernt aus Beispielen. Aus Millionen früherer Patienten lernt sie, welche Muster einer Krankheit typischerweise vorausgingen. Die Chatbots, die heute viele Menschen nutzen, sind so gebaut, trainiert mit riesigen Textmengen. Diese Art von KI ist gut darin, Dinge zu bemerken, kann aber nicht zeigen, warum sie zu einem Schluss gekommen ist, und wenn sie falschliegt, klingt sie ebenso überzeugt wie dann, wenn sie recht hat. Eine Ärztin kann nicht gefahrlos auf Grundlage einer Schlussfolgerung handeln, die sie in keiner Weise überprüfen kann.

Die zweite Art folgt Regeln, die Menschen aufgeschrieben haben, nach dem Schema „wenn dies, dann das“. Eine Regel sagt klar, was sie prüft und warum. Sie erfasst aber nur, woran jemand vorher gedacht hat, und nur dann, wenn die Information genau in der Form ankommt, die die Regel erwartet. Sie lernt nicht.

Jeder Ansatz deckt nur einen Teil ab, und keiner ist eine schlechte Idee.

Ein tieferes Problem steckt in den Akten, aus denen diese Systeme lernen. Ein Großteil einer Krankenakte besteht aus Notizen, und jede Notiz ist der Bericht eines einzelnen Menschen über einen Termin, schnell geschrieben und davon geprägt, wie dieser Mensch den Patienten wahrgenommen hat. Ein großer Teil des Übrigen wurde für die Abrechnung angelegt; die Diagnosen stehen dort als Zahlungscodes. Ein System, das nur aus diesem Material lernt, lernt auch dessen blinde Flecken. 2019 stellten Forscher fest, dass ein Algorithmus, mit dem amerikanische Gesundheitssysteme Patienten für zusätzliche Betreuung auswählten, Schwarze Patienten für gesünder hielt, als sie waren. Er hatte aus früheren Ausgaben gelernt, und für ihre Versorgung war weniger ausgegeben worden.

Lernen und Logik zusammen

Gute Ärztinnen und Ärzte nutzen beide Denkweisen. Jahre der Praxis lehren sie zu spüren, wenn etwas nicht stimmt, und dann prüfen sie diesen Eindruck an der Evidenz, bevor sie handeln. Neurosymbolische KI ist genauso aufgebaut. Der „Neuro“-Teil lernt und bemerkt, wie die Erfahrung. Der „symbolische“ Teil schlussfolgert mit Regeln, so wie eine Ärztin, die ihren Eindruck an der Evidenz prüft.

Bei Chroneme stammen die Regeln aus der veröffentlichten Forschung und aus medizinischen Leitlinien, und sie wirken wie eine Linse. Für jede klinische Frage legen sie fest, welche Informationen zählen und wie weit man ihrer Quelle trauen kann, sodass ein auf der Waage gemessenes Gewicht mehr gilt als ein Wort in einer Notiz. Innerhalb dieses Rahmens kann der lernende Teil weiterhin Muster bemerken, an die beim Aufschreiben niemand gedacht hat. Der logische Teil prüft dann jedes davon an der Evidenz, und ein Muster, das nicht standhält, erreicht den Arzt nie als Empfehlung.

Nehmen wir dieselbe Frau, nur dass diesmal Chroneme ihre Versorgung mitliest. Ihre Laborwerte, Gewichtsmessungen und die Notizen werden aus allen Einrichtungen, in denen sie war, in einer einzigen Akte zusammengeführt, in der Reihenfolge, in der alles geschah. Wenn im Juni ihr Zucker steigt, während ihr Gewicht sinkt, passt das Muster zu dem, wonach der veröffentlichte Score sucht, und ihr Arzt sieht den Hinweis noch in derselben Woche, zwei Monate bevor die Rückenschmerzen einsetzen. Der Hinweis ist in einfacher Sprache verfasst und zeigt jedes Ergebnis, auf dem er beruht, wo und wann es erfasst wurde, und die Studie, aus der die Regel stammt. Eine Anforderung für die Bildgebung ist bereits vorbereitet, zusammen mit einer Nachricht an die Patientin, die den Grund erklärt, ohne sie zu beunruhigen. Ihr Arzt prüft das Ganze, stimmt zu oder nicht und unterschreibt.

Weil die Regeln schriftlich festgehalten sind, führen dieselben Fakten bei jedem Patienten zur selben Schlussfolgerung, egal wer gerade Dienst hat. Ändert sich die Evidenz, wird die Regel einmal aktualisiert und gilt für alle. Geht etwas schief, lässt sich die Stelle finden, an der es versagt hat.

Was wir bauen

Eine bessere Methode allein genügt nicht. Sie braucht ein System, auf dem sie läuft, eines, das die Akte jedes Menschen beisammenhält und beim millionsten Patienten so gut funktioniert wie beim ersten. Dieses System bauen wir.

Es macht auch neue Arten von Erkenntnis möglich. Eine Bildgebung zeigt, wie der Körper innen aussieht, die Krankengeschichte, wie es dazu kam, und die Genetik, wozu er eher neigte. Diese Quellen wurden meist getrennt gelesen, von verschiedenen Fachärzten. Zusammen und in zeitlicher Reihenfolge gelesen, zeigen sie Kombinationen, die keine einzelne Akte enthält.

Die Medizin weiß seit Jahrzehnten, wie gute, evidenzbasierte Versorgung aussieht. Was ihr gefehlt hat, ist die Zeit, all diese Evidenz bei jedem Patienten an jedem Tag anzuwenden, denn kein Arzt kann vor jedem Termin jede Akte mit jeder Leitlinie abgleichen. Die Agenten von Chroneme, Programme, die die Schritte einer Aufgabe ausführen, übernehmen diese Vorbereitung. Sie entwerfen Anordnungen, Nachrichten und Notizen, jeweils mit ihren Quellen, damit ein Kliniker sie prüft und unterschreibt. Das Urteil bleibt beim Menschen, und die gewonnene Zeit fließt in die Versorgung zurück.

Wir sind vorsichtig mit dem, was wir behaupten. Dass sich jede Schlussfolgerung nachverfolgen und überprüfen lässt, gilt schon heute, weil das System so konstruiert ist. Ob es oft genug richtig liegt, um Patienten zu helfen, ist eine Frage, die die Evidenz beantworten muss. Wir prüfen das nach einem Protokoll, das geschrieben wurde, bevor irgendein Ergebnis vorlag, und wir werden veröffentlichen, was wir finden, auch dort, wo es zu kurz greift.