Dlaczego medycyna potrzebuje neurosymbolicznej AI

W marcu 63-letnia kobieta idzie do lekarza na rutynową kontrolę. Badanie krwi pokazuje, że od jakiegoś czasu ma za wysoki cukier, i pacjentka słyszy, że choruje na cukrzycę typu 2. Zaczyna brać popularny lek na tę chorobę i ma przyjść ponownie za trzy miesiące.

W czerwcu oddaje krew w laboratorium niedaleko pracy, bo to wygodniejsze niż jazda do przychodni. Cukier jest wyższy niż w marcu. Na wizycie kontrolnej pielęgniarka ją waży i okazuje się, że pacjentka schudła o mniej więcej 4 kg. W notatce zapisano, że dobrze reaguje na zmianę stylu życia. Zadowolona jest ona, zadowolony jest jej lekarz.

W sierpniu trafia do punktu pomocy doraźnej z bólem w środkowej części pleców, który utrzymuje się od kilku tygodni. Nie upadła, niczego ciężkiego nie dźwigała. Dostaje lek przeciwzapalny i skierowanie na fizjoterapię.

Każdy z trzech lekarzy zajął się tym, z czym pacjentka do niego przyszła, a każdy z trzech zapisów, czytany osobno, wygląda rozsądnie. Czytane razem wskazują jednak na coś, czego żaden z nich nie pokazuje sam. Lekarz, który zobaczyłby wszystkie trzy, chciałby zlecić badanie obrazowe trzustki.

Dlaczego te trzy wizyty trzeba czytać razem

Trzustka to niewielki narząd położony głęboko za żołądkiem, przy tylnej ścianie jamy brzusznej. Jednym z jej zadań jest wytwarzanie insuliny, hormonu, który trzyma poziom cukru we krwi w ryzach.

To właśnie łączy te trzy wizyty. Guz trzustki może zaburzać wytwarzanie insuliny, więc cukier rośnie, czasem zanim pojawi się jakikolwiek inny objaw. Rak może też powodować chudnięcie, o które człowiek wcale się nie starał. A ponieważ trzustka leży blisko kręgosłupa i biegnących przy nim nerwów, guz w tym miejscu może dawać tępy ból w środkowej części pleców.

Większość osób z nowo rozpoznaną cukrzycą nie ma raka. Jeśli jednak cukrzyca pojawia się po raz pierwszy po 50. roku życia, mniej więcej u jednej osoby na sto w ciągu trzech lat rozpoznaje się raka trzustki, czyli około ośmiu razy częściej, niż można by się spodziewać w tym wieku. Badacze z Mayo Clinic opracowali skalę punktową, która ma wyłapywać takich pacjentów. Bierze ona pod uwagę wiek, w którym zaczęła się cukrzyca, zmianę masy ciała i zmianę poziomu cukru. Najwięcej punktów daje spadek masy ciała przy rosnącym cukrze.

Czas ma tu znaczenie, bo raka trzustki zwykle wykrywa się późno. Mniej więcej połowę przypadków rozpoznaje się dopiero wtedy, gdy nowotwór zdążył się już rozsiać, a leczenie może zdziałać znacznie mniej. Wykrycie go o kilka miesięcy wcześniej może zmienić to, co w ogóle da się zrobić.

U tej pacjentki potrzebne informacje były już zapisane. Leżały w trzech różnych miejscach i nikt nie patrzył na wszystkie naraz.

Ta sama luka działa też w drugą stronę. Widziałem pacjentów, których kierowano na diagnostykę kardiologiczną, choć przyczyną był lęk, a nieregularne bicie serca tylko jego objawem. Sam też takich pacjentów leczyłem. Ich serca badano starannie, ale odpowiedź kryła się w innym miejscu ich historii. Kiedy informacje o czyimś zdrowiu leżą rozrzucone w różnych miejscach, medycyna przeocza to, co poważne, i ugania się za tym, co poważne nie jest.

Dlaczego komputery tego nie rozwiązały

Komputery czytają nieporównanie szybciej niż ludzie, można więc zapytać, dlaczego już dziś nie wyłapują takich przypadków. Rzecz w tym, że większość AI w medycynie należy do jednego z dwóch rodzajów, a każdy z nich widzi tylko część obrazu.

Pierwszy rodzaj uczy się na przykładach. Gdy dostanie dane milionów dawnych pacjentów, uczy się, jakie wzorce zwykle poprzedzały chorobę. Tak powstały chatboty, z których korzysta dziś wiele osób: wytrenowano je na ogromnych ilościach tekstu. Taka AI dobrze dostrzega, ale nie potrafi pokazać, dlaczego doszła do danego wniosku, a kiedy się myli, brzmi równie pewnie jak wtedy, gdy ma rację. Lekarka nie może bezpiecznie działać na podstawie wniosku, którego nie ma jak sprawdzić.

Drugi rodzaj stosuje reguły spisane przez ludzi w postaci „jeśli to, wtedy tamto”. Reguła jasno mówi, co sprawdza i dlaczego. Wychwytuje jednak tylko to, o czym ktoś pomyślał zawczasu, i tylko wtedy, gdy informacja przychodzi dokładnie w takiej postaci, jakiej reguła się spodziewa. Nie uczy się.

Każde z tych podejść jest niepełne i żadne nie jest złym pomysłem.

Głębszy problem tkwi w samej dokumentacji, na której te systemy się uczą. Dużą część dokumentacji medycznej stanowią notatki, a każda notatka to relacja jednej osoby z jednej wizyty, pisana w pośpiechu i zabarwiona tym, jak ta osoba widziała pacjenta. Spora część reszty powstała z myślą o rozliczeniach, a rozpoznania zapisuje się w niej jako kody płatności. System, który uczy się wyłącznie na takim materiale, przejmuje też jego martwe pola. W 2019 roku badacze odkryli, że algorytm, za pomocą którego amerykańskie placówki ochrony zdrowia wybierały pacjentów do dodatkowej opieki, oceniał czarnoskórych pacjentów jako zdrowszych, niż byli w rzeczywistości. Uczył się na dawnych wydatkach, a na leczenie tych pacjentów wydawano mniej.

Uczenie i logika razem

Dobrzy lekarze korzystają z obu sposobów myślenia. Lata praktyki uczą ich zauważać, że coś jest nie tak, a zanim zaczną działać, konfrontują to wrażenie z dowodami. Neurosymboliczna AI jest zbudowana tak samo. Część „neuro” uczy się i dostrzega, tak jak doświadczenie. Część „symboliczna” rozumuje za pomocą reguł, tak jak lekarz, który sprawdza swoje wrażenie w świetle dowodów.

W Chroneme reguły pochodzą z opublikowanych badań i wytycznych medycznych i działają jak soczewka. Dla każdego pytania klinicznego określają, które informacje mają znaczenie i na ile można ufać ich źródłu, tak aby masa ciała zmierzona na wadze liczyła się bardziej niż wzmianka w notatce. W tych ramach część ucząca się wciąż może dostrzegać wzorce, których nikomu nie przyszło do głowy spisać. Część logiczna sprawdza potem każdy z nich w świetle dowodów, a wzorzec, który tej próby nie wytrzymuje, nigdy nie trafia do lekarza jako zalecenie.

Wyobraźmy sobie tę samą pacjentkę, ale teraz jej opiekę śledzi Chroneme. Wyniki badań, pomiary masy ciała i notatki ze wszystkich miejsc, w których była, trafiają do jednej dokumentacji, w kolejności, w jakiej wszystko się działo. W czerwcu, gdy cukier rośnie, a waga spada, taki układ wyników odpowiada wzorcowi, którego szuka opublikowana skala, i lekarz widzi to ustalenie jeszcze w tym samym tygodniu, dwa miesiące przed pojawieniem się bólu pleców. Ustalenie jest opisane prostym językiem i pokazuje każdy wynik, który za nim stoi, gdzie i kiedy go zapisano, a także badanie, na którym opiera się reguła. Gotowe jest już skierowanie na badanie obrazowe, a do tego wiadomość do pacjentki, która wyjaśnia powód, nie strasząc jej. Lekarz wszystko przegląda, zgadza się albo nie, i podpisuje.

Ponieważ reguły są spisane, te same fakty prowadzą u każdego pacjenta do tego samego wniosku, bez względu na to, kto akurat ma dyżur. Gdy zmieniają się dowody, regułę aktualizuje się raz i obowiązuje ona wszystkich. Gdy coś pójdzie nie tak, da się znaleźć miejsce, w którym nastąpił błąd.

Co budujemy

Lepsza metoda sama nie wystarczy. Potrzebuje systemu, na którym będzie działać: takiego, który utrzymuje dokumentację każdego człowieka w całości i działa równie dobrze przy milionowym pacjencie, jak przy pierwszym. Właśnie taki system budujemy.

Otwiera on też drogę do wniosków nowego rodzaju. Badanie obrazowe pokazuje, jak ciało wygląda w środku, historia choroby pokazuje, jak do tego doszło, a genetyka, do czego ciało było bardziej skłonne. Zwykle czytali je osobno różni specjaliści. Czytane razem i po kolei ujawniają połączenia, których nie zawiera żaden pojedynczy zapis.

Medycyna od dziesięcioleci wie, jak wygląda dobra opieka oparta na dowodach. Brakowało jej czasu, by wszystkie te dowody stosować do każdego pacjenta, każdego dnia, bo żaden lekarz nie jest w stanie przed każdą wizytą zestawić całej dokumentacji ze wszystkimi wytycznymi. Tę pracę przygotowawczą wykonują agenci Chroneme, czyli programy, które przeprowadzają kolejne kroki zadania. Przygotowują projekty zleceń, wiadomości i notatek, każdy z podanymi źródłami, aby klinicysta mógł je przejrzeć i podpisać. Osąd pozostaje w rękach ludzi, a zaoszczędzony czas wraca do opieki nad pacjentem.

Jesteśmy ostrożni w swoich twierdzeniach. To, że każdy wniosek da się prześledzić i sprawdzić, już dziś wynika z samej konstrukcji systemu. Czy system ma rację na tyle często, by pomagać pacjentom, muszą rozstrzygnąć dowody. Testujemy go według protokołu spisanego, zanim zobaczyliśmy jakiekolwiek wyniki, i opublikujemy to, co ustalimy, także to, w czym zawodzi.