Почему медицине нужен нейросимволический ИИ

В марте 63-летняя женщина приходит к врачу на плановый осмотр. Анализ крови показывает, что сахар у неё уже какое-то время повышен, и ей ставят диагноз: диабет 2-го типа. Она начинает принимать распространённое лекарство от него, и её просят прийти снова через три месяца.

В июне она сдаёт кровь в лаборатории рядом с работой: так удобнее, чем ехать в клинику. Сахар выше, чем был в марте. На повторном приёме медсестра взвешивает её и видит, что она похудела примерно на 4 кг, а в записи отмечено, что она хорошо отвечает на изменение образа жизни. Довольны и она, и её врач.

В августе она обращается в пункт неотложной помощи с ноющей болью в середине спины, которая не проходит уже несколько недель. Она не падала и ничего тяжёлого не поднимала. Ей назначают противовоспалительное средство и направляют на физиотерапию.

Каждый из трёх врачей справился с тем, с чем к нему пришли, и каждая запись по отдельности выглядит разумно. Но вместе они указывают на то, чего ни одна из них не показывает сама по себе, и врач, увидевший все три, захотел бы сделать снимок её поджелудочной железы.

Почему эти три визита связаны

Поджелудочная железа невелика и лежит глубоко за желудком, у задней стенки брюшной полости. Одна из её задач состоит в том, чтобы вырабатывать инсулин, гормон, который держит уровень сахара в крови под контролем.

Именно это и связывает три визита. Опухоль поджелудочной железы может нарушать выработку инсулина, и сахар растёт, иногда ещё до появления каких-либо других признаков. Рак может вызывать и похудение, к которому человек не стремился. А поскольку поджелудочная железа лежит близко к позвоночнику и его нервам, опухоль в этом месте может давать тупую боль в середине спины.

У большинства людей с впервые выявленным диабетом рака нет. Но если диабет впервые появляется после 50 лет, примерно у одного человека из ста в течение трёх лет обнаруживают рак поджелудочной железы, то есть примерно в восемь раз чаще, чем ожидается в таком возрасте. Исследователи из Mayo Clinic разработали шкалу, чтобы находить таких пациентов. Она учитывает возраст, в котором начался диабет, изменение веса и изменение уровня сахара. Сильнее всего на оценку влияет сочетание, когда вес падает, а сахар растёт.

Сроки важны, потому что рак поджелудочной железы обычно находят поздно. Примерно половину случаев диагностируют лишь тогда, когда опухоль уже распространилась и лечение способно сделать гораздо меньше. Диагноз, поставленный на несколько месяцев раньше, может изменить то, что ещё возможно сделать.

В случае этой женщины нужные сведения уже были записаны. Просто они лежали в трёх разных местах, и никто не смотрел на них все вместе.

Тот же разрыв действует и в обратную сторону. Я видел, как пациентов проводили через кардиологическое обследование, хотя причиной была тревога, а нерегулярное сердцебиение было лишь её симптомом, и сам лечил таких пациентов. Их сердце проверяли тщательно, но ответ лежал в другой части их истории. Когда сведения о здоровье человека разбросаны по разным местам, медицина упускает серьёзное и гоняется за несерьёзным.

Почему компьютеры до сих пор этого не решили

Компьютеры читают гораздо быстрее людей, поэтому резонно спросить, почему они до сих пор не ловят такие случаи. Дело в том, что большинство ИИ в медицине относится к одному из двух типов, и каждый видит лишь часть картины.

Первый тип учится на примерах. Получив данные миллионов пациентов из прошлого, он усваивает, какие закономерности обычно предшествовали болезни. Так устроены чат-боты, которыми сегодня пользуются многие: их обучали на огромных объёмах текста. Такой ИИ хорошо замечает, но не может показать, почему пришёл к своему выводу, и, ошибаясь, говорит так же уверенно, как и тогда, когда прав. Врач не может безопасно действовать на основании вывода, который ему никак не проверить.

Второй тип следует правилам, которые записали люди, в форме «если одно, то другое». Правило ясно говорит, что оно проверяет и зачем. Но ловит оно только то, о чём кто-то подумал заранее, и только если информация поступает ровно в той форме, которой правило ждёт. Оно не учится.

Оба подхода неполны, и ни одна из этих идей не плоха.

Более глубокая проблема кроется в самих записях, на которых учатся эти системы. Большая часть медицинской документации состоит из заметок, и каждая заметка представляет собой рассказ одного человека о визите, написанный наспех и окрашенный тем, каким этот человек увидел пациента. Значительная часть остального создавалась для выставления счетов, и диагнозы хранятся там в виде платёжных кодов. Система, которая учится только на таком материале, перенимает и его слепые пятна. В 2019 году исследователи обнаружили, что алгоритм, с помощью которого в американском здравоохранении отбирали пациентов для дополнительной помощи, считал чернокожих пациентов здоровее, чем они были на самом деле. Он учился на прошлых расходах, а на их лечение тратили меньше.

Обучение и логика вместе

Хорошие врачи пользуются обоими способами мышления. Годы практики учат их замечать, что что-то не так, а затем, прежде чем действовать, они сверяют это впечатление с доказательствами. Нейросимволический ИИ устроен так же. Часть «нейро» учится и замечает, как это делает опыт. «Символическая» часть рассуждает с помощью правил, как врач, когда сверяется с доказательствами.

В Chroneme правила берутся из опубликованных исследований и клинических рекомендаций и работают как линза. Для каждого клинического вопроса они определяют, какие сведения важны и насколько можно доверять их источнику, так что вес, измеренный на весах, значит больше, чем слово в заметке. В этих рамках обучаемая часть по-прежнему может замечать закономерности, которые никто не догадался записать. Затем логическая часть проверяет каждую из них по доказательствам, и закономерность, которая не выдерживает проверки, никогда не попадает к врачу в виде рекомендации.

Представим ту же женщину, только теперь её медицинскую историю читает Chroneme. Её анализы, измерения веса и заметки из всех мест, где она побывала, сводятся в одну запись в том порядке, в каком всё происходило. В июне, когда сахар растёт, а вес падает, картина совпадает с тем, что ищет опубликованная шкала, и её врач видит эту находку на той же неделе, за два месяца до того, как началась боль в спине. Находка изложена простым языком и показывает каждый стоящий за ней результат, где и когда он был записан, а также исследование, на котором основано правило. Направление на снимок уже подготовлено, как и сообщение пациентке, которое объясняет причину, не пугая её. Врач просматривает всё это, соглашается или не соглашается и подписывает.

Поскольку правила записаны, одни и те же факты приводят к одному и тому же выводу для каждого пациента, независимо от того, кто дежурит. Когда меняются доказательства, правило обновляют один раз, и оно действует для всех. Когда что-то идёт не так, можно найти место, где произошёл сбой.

Что мы строим

Одного лучшего метода мало. Ему нужна система, на которой он будет работать: такая, что хранит запись каждого человека целиком и работает для миллионного пациента так же хорошо, как для первого. Именно такую систему мы и строим.

Она же открывает путь к пониманию нового рода. Снимок показывает, как тело выглядит изнутри, история болезни показывает, как оно к этому пришло, а генетика показывает, к чему оно было больше склонно. Обычно всё это читали по отдельности разные специалисты. Если читать их вместе и по порядку, проявляются сочетания, которых нет ни в одной отдельной записи.

Медицина уже не одно десятилетие знает, как выглядит хорошая помощь, основанная на доказательствах. Ей не хватало времени, чтобы применять все эти доказательства к каждому пациенту каждый день: ни один врач не может перед каждым приёмом сверить каждую запись с каждой клинической рекомендацией. Эту подготовку берут на себя агенты Chroneme (программы, которые шаг за шагом выполняют задачу). Они готовят черновики назначений, сообщений и заметок, каждый со своими источниками, чтобы клиницист мог их проверить и подписать. Последнее слово остаётся за людьми, а сэкономленное время возвращается к лечению.

Мы осторожны в своих утверждениях. То, что каждый вывод можно проследить и проверить, уже сегодня заложено в саму конструкцию системы. Достаточно ли часто система оказывается права, чтобы помогать пациентам, должны показать доказательства. Мы проверяем её по протоколу, написанному до того, как были получены какие-либо результаты, и опубликуем то, что найдём, включая её слабые места.