ChatGPT ставит диагнозы лучше, чем врачи: как это работает на практике.

Непредсказуемые последствия медицинской самодиагностики

Как сообщает Vox: Один художник из Германии, который любил рисовать на улице, попал в больницу из-за укуса насекомого с несколькими симптомами, которые врачи не смогли расшифровать. После месяца безуспешного лечения он начал вводить свою медицинскую информацию в ChatGPT, который в итоге предложил диагноз: туляремия, известная также как кроличий холод. Чат-бот оказался прав, этот случай впоследствии был задокументирован в рецензируемом медицинском исследовании.

В то же время другое исследование описывало мужчину, который обратился в больницу в США с признаками психоза, подозревая, что его сосед отравляет его. Как выяснилось, пациент спрашивал ChatGPT о альтернативах хлорида натрия (обычной соли). Чат-бот посоветовал ему бромид натрия, который используется для очистки бассейнов. Он употреблял это токсичное вещество в течение трех месяцев, и, когда прекратил, ему понадобился трехнедельный курс психиатрической помощи для стабилизации.

Мы все знаем, как искать в Google информацию о загадочных заболеваниях. Вводите симптомы, иногда находите полезные советы, а иногда испытываете тревогу, убеждая себя в том, что у вас редкая недиагностированная форма рака. Благодаря генеративному искусственному интеллекту, процесс поиска информации получил новый виток. Знакомьтесь, доктор ChatGPT.

AI-чат-боты являются привлекательной заменой для человека-врача, особенно учитывая продолжающийся дефицит врачей, а также более широкие препятствия для доступа к медицинской помощи в Соединенных Штатах.

ChatGPT не является врачом, так же как Google не является врачом. Поиск медицинской информации на обеих платформах так же может привести к неправильным выводам. Однако, в отличие от Google, который просто ведет пользователей к информации, ChatGPT и другие большие языковые модели (LLMs) предлагают возможность взаимодействия. Они созданы для удобства, привлечения и постоянной доступности. Это делает AI-чат-ботов привлекательными альтернативами человеческому врачу, особенно учитывая нехватку медицинских работников и другие барьеры в доступе к медицинской помощи в США.

Как показывает случай с кроличьим холодом, эти инструменты могут обрабатывать разнообразные данные, и, научившись на многочисленных медицинских статьях, иногда доходят до выводов, которые врачи могли бы пропустить. Однако они также могут выдавать действительно опасные медицинские советы.

Есть разница между запросом медицинских советов у чат-бота и обсуждением своего здоровья. Если все делать правильно, общение с ChatGPT может помочь в улучшении бесед с врачом и, соответственно, улучшить медицинскую помощь. Лишь не позволяйте AI убедить вас есть очищающий препарат для бассейнов.

Правильные и неправильные способы общения с доктором ChatGPT

Многие люди уже используют ChatGPT для получения медицинских консультаций. По данным опроса KFF 2024, примерно один из шести взрослых в США утверждает, что ежемесячно использует AI-чат-ботов для медицинских советов. Тем не менее, большинство из них не уверены в точности информации, которую предоставляют боты, и это вполне логично, учитывая распространенную тенденцию LLM к формированию 'галлюцинаций' и возможность предоставления вредной медицинской информации. Основная проблема для обычного пользователя — это умение отличать факты от вымысла.

“Честно говоря, я считаю, что людям следует быть очень осторожными, используя это для медицинских целей, особенно если у них нет экспертных знаний, чтобы различать, что является правдой, а что — нет,” - сказала доктор Роксан Данесячо, профессор и исследователь AI в Стэнфордской медицинской школе. “Когда это срабатывает, это выглядит довольно хорошо, но если нет — может быть катастрофически.”

Чат-боты также могут быть 'угодливыми' или стремиться угодить, что может привести к неправильным советам, если они считают, что это то, что вы хотите услышать.

Если у вас есть список вопросов, чтобы задать своему врачу, ChatGPT может помочь вам сформулировать вопросы.

Тем не менее, если вы не забываете проверять симптомы, такие инструменты, как ChatGPT, могут быть очень полезными для получения дополнительной информации о вашем здоровье на основе уже сказанного врачом или для лучшего понимания его медицинских записей. Если у вас есть список вопросов к врачу, ChatGPT может помочь в их формулировке. Если у вас есть результаты тестов и вам необходимо обсудить следующие шаги с врачом, вы можете это проговорить с чат-ботом, но не следует ожидать от него специфических медицинских советов.

И на самом деле, когда речь идет об общении, есть доказательства, что ChatGPT может быть даже лучше в этом деле. Одно исследование 2023 года сравнивало ответы врачей на вопросы о здоровье с ответами AI на те же вопросы. Медицинские профессионалы оценили все ответы и выяснили, что те, которые были сгенерированы чат-ботом, имели лучшее качество и больше эмпатии. Тем не менее, это не заменяет реальную встречу врача с пациентом. Стоит отметить, что в среднем пациенты получают только 18 минут на приеме у их врача первичной медицинской помощи. Если вы обращаетесь только раз в год, это не так много времени для общения с врачом.

Следует помнить, что, в отличие от вашего врача, ChatGPT не подчиняется требованиям HIPAA. Чат-боты обычно имеют ограниченные меры для обеспечения конфиденциальности. Это означает, что любая медицинская информация, которую вы предоставляете, может храниться в памяти AI и использоваться для обучения больших языковых моделей в будущем.

Будущее бот-услуг в медицинской помощи

Даже если вы не используете AI для решения медицинских загадок, ваш врач, вероятно, уже делает это. По данным отчета Elsevier на 2025 год, около половины врачей отметили, что работают с AI-инструментами, и несколько больше говорят, что это экономит им время. Каждый пятый врач утверждает, что использовал AI для получения второго мнения по сложным случаям. Это не обязательно означает, что ваш врач спрашивает ChatGPT о ваших симптомах.

Врачи использовали инструменты на основе AI для помощи в диагностике пациентов и ведении заметок еще до появления ChatGPT. Среди таких инструментов есть системы поддержки принятия клинических решений, специально разработанные для врачей, которые уже превышают обычные чат-боты — хотя чат-боты могут действительно дополнять существующие инструменты. Исследование 2023 года показало, что врачи, которые работали с ChatGPT, только немного лучше диагностировали тестовые случаи, чем те, кто работал самостоятельно. Интересно, что сам ChatGPT показал лучшие результаты.

Это исследование стало темой обсуждения в прессе, вероятно, из-за предложения, что чат-боты AI могут быть лучше врачей в диагностике. Один из соавторов, доктор Адам Родман, предполагает, что это могло бы не быть так, если бы врачи были более открыты к выслушиванию ChatGPT, чем считали, что чат-боты ошибаются, когда результаты не соответствуют их выводам. Конечно, AI может ошибаться, но он также может обнаружить связи, которые люди могли бы пропустить. Еще раз, вспомните случай с кроличьим холодом.

“Пациенты должны говорить своим врачам о своем использовании LLM, и, честно говоря, врачи должны говорить своим пациентам о своем использовании LLM.”

“Обычный врач четко видит, когда что-то не так,” - отметил Родман, интернист в Медицинском центре Бет Исраэль Диконесс и преподаватель в Гарвардской медицинской школе. “Я не знаю, есть ли у обычного пациента такая же способность.”

В ближайшей перспективе не стоит ожидать появления доктора ChatGPT в вашей местной клинике. Скорее, вы увидите AI в роли помощника, который экономит врачу время на ведение заметок, а возможно, впоследствии помогает анализировать данные. Ваш врач может использовать AI для более быстрого составления сообщений для пациентов. С развитием AI-технологий возможно внедрение более широкого использования таких инструментов в диагностике и получении второго мнения. Однако это не означает, что вам следует спешить к ChatGPT с неотложными медицинскими вопросами. Если уж решите это сделать, обязательно сообщите своему врачу о своем опыте.

“Пациенты должны говорить своим врачам о использовании LLM, и, честно говоря, врачи должны общаться со своими пациентами о своем использовании LLM,” - подчеркнул Родман. “Если мы просто будем откровенны друг с другом, это приведет к более продуктивным разговорам.”