Ошибки ИИ вводят пациентов в заблуждение
Хирург Сина Бари, эксперт по ИИ в здравоохранении из компании iMerit, лично столкнулся с тем, как ChatGPT дает неверные медицинские рекомендации.
Недавно к нему обратился пациент, которому Бари назначил препарат. Тот принес распечатку беседы с ChatGPT, где говорилось о 45% риске легочной эмболии от этого лекарства. При проверке выяснилось: цифра взята из исследования влияния препарата на узкую группу людей с туберкулезом, что не относилось к данному случаю.
Тем не менее анонс ChatGPT Health от OpenAI вызвал у Бари больше оптимизма, чем тревоги.
Что предлагает ChatGPT Health
Сервис запустится в ближайшие недели. Он дает возможность обсуждать вопросы здоровья в приватной среде — сообщения не пойдут на дообучение базовой модели ИИ.
Бари считает это отличным шагом: такие разговоры уже ведутся повсеместно, а теперь их защитят, чтобы данные пациентов оставались в безопасности. Это усилит полезность инструмента для обычных людей.
ChatGPT Health позволяет загружать медицинские документы и подключать данные из приложений вроде Apple Health или MyFitnessPal для более точных советов. Однако это беспокоит тех, кто ценит конфиденциальность.
Риски передачи медицинских данных
Итай Шварц, сооснователь компании MIND по предотвращению утечек данных, отмечает: медицинская информация вдруг перетекает из систем, соответствующих HIPAA, к поставщикам, которые такого соответствия не имеют. Интересно, как на это отреагируют регуляторы.
С другой стороны, процесс уже запущен. Люди больше не ищут симптомы в Google, а беседуют с ИИ-чатботами. Более 230 миллионов пользователей еженедельно спрашивают ChatGPT о здоровье.
Эндрю Брэкин, партнер венчурного фонда Gradient, инвестирующего в health tech, подчеркивает: запросы о медицине — один из главных сценариев для ChatGPT. Поэтому логично создать защищенную, оптимизированную версию именно для таких тем.
Проблема галлюцинаций в медицинских ИИ
Чатботы на базе ИИ часто выдумывают факты, что особенно опасно в медицине. По данным Factual Consistency Evaluation Model от Vectara, GPT-5 от OpenAI галлюцинирует чаще, чем многие модели Google и Anthropic.
Компании все равно видят шанс исправить неэффективности в здравоохранении. На этой неделе Anthropic тоже представил продукт для медицины.
Доступ к врачам важнее идеальных советов ИИ
Найгам Шах, профессор медицины в Стэнфорде и главный дата-сайентист Stanford Health Care, уверен: в США острее проблема недоступности врачей, чем риски от плохих советов чатботов.
В любой системе здравоохранения ожидание записи к терапевту — от трех до шести месяцев. Если выбирать между полугодовым ожиданием реального доктора или разговором с ИИ, который хоть что-то может подсказать, выбор очевиден.
Шах предлагает внедрять ИИ не для пациентов, а для самих медиков.
Автоматизация рутины для врачей
Исследования в медицинских журналах показывают, что административная работа занимает около половины времени терапевта, снижая число пациентов в день. Автоматизация таких задач позволит обслуживать больше людей и уменьшит нужду в самостоятельных обращениях к чатботам без консультаций.
ChatEHR упрощает работу с медкартами
Шах руководит командой в Стэнфорде, которая создает ChatEHR — инструмент, встроенный в электронные медкарты (EHR). Он помогает клиницистам быстро извлекать нужную информацию.
Снеха Джайн, одна из первых тестировщиц, рассказала в статье Стэнфорд Медицин: ChatEHR избавляет от поисков по всем уголкам записей, выводит данные сразу. Так врачи тратят меньше времени на интерфейс и больше — на общение с пациентами и диагностику.
Claude for Healthcare от Anthropic
Anthropic разрабатывает ИИ для клиницистов и страховщиков, помимо публичного Claude. Claude for Healthcare помогает сократить время на скучные административные операции, например, подачу запросов на предварительное одобрение страховки.
На презентации на Healthcare Conference J.P. Morgan главный продуктовий офицер Anthropic Майк Кригер сказал: некоторые видят сотни или тысячи таких кейсов в неделю. Если урезать 20–30 минут на каждый, экономия времени окажется огромной.
Конфликт интересов между врачами и техкомпаниями
По мере сближения ИИ и медицины неизбежно возникает противоречие: главная цель докторов — помогать пациентам, а техкомпаний — отчитываться перед акционерами, даже при благих намерениях.
Бари подчеркивает: такое противоречие существенно. Пациенты рассчитывают, что мы будем осторожны и скептичны, чтобы их защитить.