"Галлюцинации" и прочие ошибки ИИ в здравоохранении
Искусственный интеллект внедряется во все сферы нашей жизни, нам обещают, что и в здравоохранении при правильном применении ИИ может стать незаменимым помощником — как в практике врача, так и при обучении специалистов, в науке в технологии сбора, анализа и поиска данных. Но есть нюансы — количество ошибок, на которые способен ИИ, просто огромно. Как технологии повлияют на здравоохранение? Подробнее — в материале Накануне.RU.
Зачем ИИ в медицине?
Сторонники внедрения ИИ считают, что современный ИИ может с успехом использоваться в клинической практике уже сегодня, например, для поддержки принятия решений врача по поводу назначения лечения. Эти технологии найдут применение в медицинском образовании, ведь они могут представлять сложные концепции в понятной для студентов форме. Хорошим помощником искусственный интеллект может стать в административной работе, ведь обобщение и создание резюме — его "прокаченный скилл". Также ИИ может стать незаменим в науке с его сверхбыстрым умением искать наиболее подходящие молекулы для разработки лекарств. Однако в этой фантастической модели заложены серьезные риски, о чем рассказали эксперты на международном конгрессе "ОргЗдрав — 2024".
Риски связаны здесь, как и везде, с безопасностью персональных данных, с высокой стоимостью внедрения, но главное — с возможными ошибками. Среди ошибок эксперты отмечают: алгоритмические, которые появляются при неправильном обучении, "галлюцинации" ИИ связаны с неверной работой формул; и академические ошибки, то есть просто-напросто плагиат. И это при общем снижении уровня клинического мышления, что ведет к потере самостоятельности профессии врача. По данным опросов, менее 20% врачей читают современную литературу, заявили на "ОргЗдраве".
Сегодня главная модель ИИ для применения в здравоохранении — это Большая языковая модель (Large Language Model — LLM). LLM способна генерировать тексты и изображения, обучена на естественных языках, то есть понимает человеческую речь. Обучаются подобные модели на биг-дате из интернета. Модель ИИ дает ответы, исходя из вероятностей, как правило, в таких моделях более миллиарда (до триллиона) значений математических функций. Уже сегодня в медицинском сообществе есть два основных опасения: во-первых, что будет, если LLM превзойдет врачей по качеству диагностики и лечения пациентов, а во-вторых, страх противоположный, а что если нет — то кто будет отвечать за ошибки ИИ?
На рынке цифровых технологий здравоохранение — отрасль один из лидеров и по количеству инвестиций, и по количеству компаний, и по надеждам, которые на ИИ возлагают. Но вся и прелесть, и опасность этой технологии состоит в том, что генеративный ИИ в основе своей — это технология для имитации, напоминает директор по развитию бизнеса Webiomed, эксперт по искусственному интеллекту ЦНИИОИЗ Минздрава России, к.т.н. Александр Гусев:
"Она (Большая языковая модель) делает эту имитацию правильно, но как только вы этот ИИ отпускаете и он начинает учиться в интернете, на каких-то форумах, на фейковых данных, этот искусственный интеллект будет имитировать галлюцинацию, и никакой массовый ликбез, никакая массовая подготовка не застрахует врача от однажды сделанной ошибки, когда он не отличит галлюцинацию от качественных знаний".
К самым главным направлениям развития искусственного интеллекта в медицине относится разработка и внедрение Системы поддержки принятия врачебных решений (СППВР) в практику врача. Сегодня ожидания от СППВР идут в трех направлениях: помощь с оценкой рисков для пациента по анамнезу и анализам, снижение времени на интерпретацию этих анализов и третье направление — рекомендации по тактике ведения пациента.
Создание цифровых профилей пациентов и оценка рисков с помощью технологий ИИ уже проходят во многих регионах. Заместитель генерального директора по цифровому здравоохранению Philips Дмитрий Лисогор рассказывает, как технологии помогают в постановке диагноза и лечении. Во-первых, большая языковая модель используется для того, чтобы переписать заключение, которое выдает врач, на языке, понятном для пациента.
"Заключение остается заключением, оно хранится в информационной системе, но, наверное, многие знают, как пациенты, получив результаты анализов или заключение, сами пытаются разобраться в них через поиск в интернете — что это за термины? Что это значит? Языковая модель помогает переписать заключение нормальным человеческим языком", — говорит эксперт в сфере ИИ.
Следующий шаг — это комбинация технологий, когда в проверку анализов или данных КТ, МРТ и прочего будут внедряться разные алгоритмы. Например, когда по КТ грудной клетки ИИ не только "смотрит" на состояние легких, но и по разным алгоритмам ищет и другие заболевания, нарушения в костной структуре, что-то в сосудах, тем самым один анализ сразу повышается в ценности.
В странах Латинской Америки уже есть такой помощник, который делает заключение по встрече врача и пациента за счет прослушивания всего приема, интерпретирует все, что прозвучало. Врач ничего не записывает, не готовит отчет сразу же, не заполняет бумаги во время осмотра пациента, он просто разговаривает, дает рекомендации и полностью сосредоточен на человеке. В конце приема специалисту нужно просто утвердить, что записала языковая модель, и двигаться дальше.
Прежде искусственного, надо научиться пользоваться естественным?
В России есть четкая государственная программа по развитию искусственного интеллекта. Но пока нет определенного этического кодекса для разработчиков, это, на самом деле, вызывает определенные опасения. Пока никто не контролирует, как создается и обучается ИИ. Также существует множество разных моделей ИИ — большие языковые модели, обработка изображений и так далее, которые массово внедряются и регистрируются у нас в стране. Но проблема остается, она сегодня — в квалификации врача, потому что не стоит забывать, что ИИ — это все же инструмент, и важно то, кем он управляется.
"Чтобы оценить правильность вывода даже Системы поддержки принятия врачебных решений, предложенных вариантов, врач должен обладать всей полнотой знаний, — говорит директор по маркетингу и продвижению IT-продуктов ООО "Консультант студента" Александр Моисеев. — К сожалению, сегодня до 20% выпускников проваливают экзамен на получение звания "Московский врач" в Московском центре аккредитации и профессионального развития в сфере здравоохранения, а 60% врачей вообще не сдают его с первого раза".
По итогам экспертиз контроля качества за 2021-2022 год, как рассказывает Моисеев, в системе ОМС в 25% случаев выявляются дефекты оказания медицинской помощи.
"В СК порядка 170 уголовных дел в отношении врачей, в отношении медицинских организаций доходят до суда. А возбуждается в 10 раз больше. Порядка 1700 ежегодно. В чем же причина существования барьеров, мешающих трансляции знаний?" — задается вопросом эксперт.
Все упирается в деньги, считает он, первая причина — отсутствие целевого финансирования для того, чтобы врачи могли повышать квалификацию. Второе — недостаточная мотивация начальства для того, чтобы давать сотрудникам возможности самообразования. Но есть политическая воля, есть поручение Правительству от президента об организации федерального проекта, направленного на улучшение качества знаний. Но для всего этого есть более глубокие системные причины — у врачей и так повышенные нагрузки, кадров не хватает, дефицит времени и профессиональное выгорание играют сегодня ключевую роль в развитии каждого отдельного специалиста.
"Все это отучает напрочь врача что-либо читать. Он приходит домой, падает, спит, встает утром идет на работу, и все это продолжается снова и снова".
То есть проблемы, с которыми мы можем столкнуться при тотальном введении ИИ в жизнь и работу сотрудников сферы здравоохранения, упираются в прежние социальные беды отрасли, о которых мы писали не раз. В настоящем же даже СППВР должен отслеживать специалист, причем очень внимательно. На "ОргЗдраве" привели конкретный пример, что предлагает в качестве диагноза ИИ.
"Это реальная фотография с реального приема, — рассказывает директор по маркетингу и продвижению IT-продуктов ООО "Консультант студента" Александр Моисеев, — когда пациент пришел с жалобами на укус клеща в ягодицу, а возможные диагнозы предложены были системой: это гипертензивная болезнь, дерматит и остеохондроз позвоночника. Как бы смешно это ни звучало".
Летать в России станет еще дороже
Креатив Госдумы так и прет: про букмекеров и депутатов
Вот это "Вызов"
