Чому медицині потрібен нейросимвольний ШІ

У березні 63-річна жінка приходить до лікаря на плановий огляд. Аналіз крові показує, що цукор у неї вже якийсь час підвищений, і їй ставлять діагноз: діабет 2 типу. Вона починає приймати поширені ліки від нього, і її просять прийти знову за три місяці.

У червні вона здає кров у лабораторії біля роботи: так зручніше, ніж їхати до клініки. Цукор вищий, ніж був у березні. На повторному прийомі медсестра її зважує і бачить, що вона схудла приблизно на 4 кг, а в записі зазначено, що вона добре реагує на зміну способу життя. І вона, і її лікар задоволені.

У серпні вона звертається до пункту невідкладної допомоги з ниючим болем посередині спини, який не минає вже кілька тижнів. Вона не падала й нічого важкого не піднімала. Їй призначають протизапальний засіб і направляють на фізичну терапію.

Кожен із трьох лікарів упорався з тим, із чим до нього прийшли, і кожен запис, прочитаний окремо, здається розумним. Але разом вони вказують на те, чого жоден не показує сам по собі, і лікар, який побачив би всі три, захотів би зробити знімок її підшлункової залози.

Чому ці три візити пов’язані

Підшлункова залоза невелика й лежить глибоко за шлунком, біля задньої стінки черевної порожнини. Одне з її завдань полягає в тому, щоб виробляти інсулін, гормон, який тримає рівень цукру в крові під контролем.

Саме це й пов’язує три візити. Пухлина підшлункової залози може порушувати вироблення інсуліну, і цукор зростає, іноді ще до появи будь-яких інших ознак. Рак також може спричиняти схуднення, якого людина не прагнула. А оскільки підшлункова залоза лежить близько до хребта та його нервів, пухлина там може викликати тупий біль посередині спини.

У більшості людей із уперше виявленим діабетом раку немає. Проте коли діабет уперше з’являється після 50 років, приблизно в однієї людини зі ста протягом трьох років діагностують рак підшлункової залози, а це приблизно у вісім разів частіше, ніж очікується в такому віці. Дослідники з Mayo Clinic створили шкалу, щоб знаходити таких пацієнтів. Вона враховує вік, у якому почався діабет, зміну ваги та зміну рівня цукру. Найбільше значення має поєднання, коли вага падає, а цукор зростає.

Час має значення, бо рак підшлункової залози зазвичай знаходять пізно. Приблизно половину випадків діагностують лише тоді, коли рак уже поширився і лікування здатне зробити значно менше. Діагноз, поставлений на кілька місяців раніше, може змінити те, що ще можливо зробити.

У випадку цієї жінки потрібні відомості вже були записані. Вони просто лежали в трьох різних місцях, і ніхто не дивився на них усі разом.

Той самий розрив діє і в протилежний бік. Я бачив, як пацієнтів проводили через кардіологічне обстеження, хоча причиною була тривога, а нерегулярне серцебиття було лише її симптомом, і сам лікував таких пацієнтів. Їхнє серце перевіряли ретельно, але відповідь ховалася в іншій частині їхньої історії. Коли відомості про здоров’я людини розкидані по різних місцях, медицина пропускає серйозне й ганяється за несерйозним.

Чому комп’ютери досі цього не розв’язали

Комп’ютери читають набагато швидше за людей, тож слушно запитати, чому вони досі не помічають таких випадків. Річ у тім, що більшість ШІ в медицині належить до одного з двох типів, і кожен бачить лише частину картини.

Перший тип навчається на прикладах. Отримавши дані мільйонів пацієнтів із минулого, він засвоює, які закономірності зазвичай передували хворобі. Так побудовані чат-боти, якими сьогодні користується багато людей: їх навчали на величезних обсягах тексту. Такий ШІ добре помічає, але не може показати, чому дійшов свого висновку, і говорить так само впевнено, коли помиляється, як і тоді, коли має рацію. Лікарка не може безпечно діяти на підставі висновку, який їй нема як перевірити.

Другий тип дотримується правил, які записали люди, у формі «якщо одне, то інше». Правило чітко визначає, що воно перевіряє і навіщо. Проте воно вловлює лише те, про що хтось подумав заздалегідь, і лише тоді, коли інформація надходить саме в тій формі, на яку правило розраховує. Воно не навчається.

Обидва підходи неповні, і жодна з цих ідей не погана.

Глибша проблема криється в записах, на яких навчаються ці системи. Значна частина медичної документації складається з нотаток, і кожна нотатка є розповіддю однієї людини про візит, написаною поспіхом і забарвленою тим, яким ця людина побачила пацієнта. Чимала частина решти створювалася для виставлення рахунків, а діагнози там зберігаються у вигляді платіжних кодів. Система, яка навчається лише на такому матеріалі, переймає і його сліпі плями. У 2019 році дослідники виявили, що алгоритм, за допомогою якого в американській охороні здоров’я відбирали пацієнтів для додаткового догляду, вважав темношкірих пацієнтів здоровішими, ніж вони були насправді. Він навчався на минулих витратах, а на їхнє лікування витрачали менше.

Навчання і логіка разом

Добрі лікарі користуються обома способами мислення. Роки практики вчать їх помічати, що щось не так, а потім, перш ніж діяти, вони звіряють це враження з доказами. Нейросимвольний ШІ побудований так само. Частина «нейро» навчається і помічає, як це робить досвід. «Символьна» частина міркує за правилами, як лікар, що звіряється з доказами.

У Chroneme правила беруться з опублікованих досліджень і клінічних настанов та працюють як лінза. Для кожного клінічного питання вони визначають, які відомості важливі і наскільки можна довіряти їхньому джерелу, тож вага, виміряна на вагах, означає більше, ніж слово в нотатці. У цих межах частина, що навчається, і далі може помічати закономірності, які нікому не спало на думку записати. Потім логічна частина перевіряє кожну з них за доказами, і закономірність, яка не витримує перевірки, ніколи не доходить до лікаря як рекомендація.

Уявімо ту саму жінку, але тепер її медичну історію читає Chroneme. Її аналізи, вимірювання ваги й нотатки з усіх місць, де вона побувала, зводяться в один запис у тому порядку, в якому все відбувалося. У червні, коли цукор зростає, а вага падає, картина збігається з тим, що шукає опублікована шкала, і її лікар бачить цю знахідку того ж тижня, за два місяці до того, як почався біль у спині. Знахідку викладено простою мовою, і вона показує кожен результат, що стоїть за нею, де й коли його записали, а також дослідження, на якому ґрунтується правило. Направлення на знімок уже підготовлене, так само як і повідомлення пацієнтці, що пояснює причину, не лякаючи її. Лікар переглядає все це, погоджується чи не погоджується і підписує.

Оскільки правила записані, ті самі факти ведуть до того самого висновку для кожного пацієнта, незалежно від того, хто чергує. Коли змінюються докази, правило оновлюють один раз, і воно діє для всіх. Коли щось іде не так, можна знайти місце, де стався збій.

Що ми будуємо

Одного кращого методу замало. Йому потрібна система, на якій він працюватиме: така, що зберігає запис кожної людини цілісним і працює для мільйонного пацієнта так само добре, як для першого. Саме таку систему ми й будуємо.

Вона ж робить можливими нові форми розуміння. Знімок показує, який вигляд має тіло зсередини, історія хвороби показує, як воно до цього дійшло, а генетика показує, до чого воно мало більшу схильність. Зазвичай усе це читали окремо різні фахівці. Якщо читати їх разом і по порядку, вони виявляють поєднання, яких немає в жодному окремому записі.

Медицина вже кілька десятиліть знає, якою має бути добра допомога, що ґрунтується на доказах. Їй бракувало часу, щоб застосовувати всі ці докази до кожного пацієнта щодня: жоден лікар не може перед кожним прийомом звірити кожен запис із кожною настановою. Цю підготовку виконують агенти Chroneme (програми, що крок за кроком виконують завдання). Вони готують чернетки призначень, повідомлень і нотаток, кожну з джерелами, щоб клініцист міг їх переглянути й підписати. Останнє слово лишається за людьми, а заощаджений час повертається до лікування.

Ми обережні у своїх твердженнях. Те, що кожен висновок можна простежити й перевірити, вже сьогодні закладено в саму конструкцію системи. Чи досить часто система має рацію, щоб допомагати пацієнтам, мають показати докази. Ми перевіряємо її за протоколом, написаним ще до того, як було отримано будь-які результати, і оприлюднимо те, що знайдемо, зокрема й те, де вона не впоралася.