ChatGPT ставить діагнози краще за лікарів: як це працює на практиці.

Непередбачувані наслідки медичного самодіагностування

Як повідомляє Vox: Один художник з Німеччини, який любив малювати на вулиці, потрапив до лікарні через укус комахи з декількома симптомами, які лікарі не змогли розшифрувати. Після місяця безуспішного лікування він почав вводити свою медичну інформацію в ChatGPT, який врешті-решт запропонував діагноз: туляремія, відома також як кролячий холод. Чат-бот виявився правим, цей випадок згодом було задокументовано у рецензованому медичному дослідженні.

На той же час інше дослідження описувало чоловіка, який звернувся до лікарні в США з ознаками психозу, підозрюючи, що його сусід отруює його. Як виявилося, пацієнт запитував ChatGPT про альтернативи хлориду натрію (звичайної солі). Чат-бот порадив йому бромід натрію, який використовується для очищення басейнів. Він вживав цю токсичну речовину протягом трьох місяців, і, коли зупинився, йому знадобився тритижневий курс психіатричної допомоги для стабілізації.

Ми всі знаємо, як шукати в Google інформацію про загадкові захворювання. Вводите симптоми, іноді знаходите корисні поради, а іноді відчуваєте тривогу, переконуючи себе, що маєте рідкісну недіагностовану форму раку. Завдяки генеративному штучному інтелекту, процес шукання інформації отримав новий виток. Знайомтесь, доктор ChatGPT.

AI chatbots are an appealing stand-in for a human physician, especially given the ongoing doctor shortage as well as the broader barriers to accessing health care in the United States.

ChatGPT не є лікарем так само, як Google не є лікарем. Пошук медичної інформації за обома платформами однаково може призвести до неправильних висновків. Однак, на відміну від Google, який просто веде користувачів до інформації, ChatGPT та інші великі мовні моделі (LLMs) пропонують можливість взаємодії. Вони створені для зручності, залучення та постійної доступності. Це робить AI чат-ботів привабливими альтернативами людському лікарю, особливо враховуючи нестачу медичних працівників та інші бар'єри у доступі до медичної допомоги в США.

Як показує випадок з кролячим холодом, ці інструменти можуть обробляти різноманітні дані, і, навчившись на численних медичних статтях, іноді доходять до висновків, які лікарі могли пропустити. Проте вони також можуть видавати справді небезпечні медичні поради.

Є різниця між запитом медичних порад у чат-бота та обговоренням свого здоров'я. Якщо все робити правильно, спілкування з ChatGPT може допомогти у покращенні бесід з лікарем і, відповідно, покращити медичну допомогу. Лише не дозволяйте AI переконати вас їсти очищувач для басейну.

Правильні та неправильні способи спілкування з доктором ChatGPT

Багато людей вже користуються ChatGPT для отримання медичних консультацій. За даними опитування KFF 2024, приблизно один з шести дорослих у США стверджує, що щомісяця використовує AI чат-ботів для медичних порад. Проте більшість із них не впевнені в точності інформації, яку надають боти, і це цілком логічно, враховуючи поширену тенденцію LLM до формування "галюцинацій" та можливість надання шкідливої медичної інформації. Основна проблема для звичайного користувача — це вміння відрізнити факти від вигадки.

“Правду кажучи, я вважаю, що людям слід бути дуже обережними, використовуючи це для медичних цілей, особливо якщо у них немає експертних знань, щоб розрізнити, що є правдою, а що — ні,” - сказала доктор Роксан Данесячо, професор та дослідник AI в Стенфордській медичній школі. “Коли це спрацьовує, це виглядає досить добре, але якщо ні — може бути катастрофічно.”

Чат-боти також можуть бути "угодливими" або прагнути догодити, що може призвести до неправильних порад, якщо вони вважають, що це те, що ви хочете почути.

If you’ve got a list of things to ask your doctor about, ChatGPT could help you craft questions.

Проте, якщо ви не забуваєте перевіряти симптоми, такі інструменти, як ChatGPT, можуть бути дуже корисними для отримання додаткової інформації про ваше здоров'я на основі вже сказаного лікарем або для кращого розуміння його медичних записів. Якщо у вас є список запитань до лікаря, ChatGPT може допомогти у їх формулюванні. Якщо у вас є результати тесту і вам потрібно обговорити наступні кроки з лікарем, ви можете це проговорити з чат-ботом, але не слід очікувати від нього специфічних медичних порад.

І насправді, коли мова йде про спілкування, є докази, що ChatGPT може бути навіть кращим у цій справі. Одне дослідження 2023 року порівняло відповіді лікарів на запитання щодо здоров'я з відповідями AI на ті ж запитання. Медичні професіонали оцінили всі відповіді і виявили, що ті, що були згенеровані чат-ботом, мали кращу якість та більше емпатії. Проте це не замінює реальну зустріч лікаря з пацієнтом. Варто зазначити, що в середньому пацієнти отримують лише 18 хвилин на прийомі у їхнього лікаря первинної медичної допомоги. Якщо ви звертаєтеся лише раз на рік, це не дуже багато часу для спілкування з лікарем.

Слід пам'ятати, що, на відміну від вашого лікаря, ChatGPT не підпорядковується вимогам HIPAA. Чат-боти зазвичай мають обмежені заходи для забезпечення конфіденційності. Це означає, що будь-яка медична інформація, яку ви надаєте, може зберігатися в пам’яті AI та використовуватися для навчання великих мовних моделей у майбутньому.

Майбутнє бот-послуг у медичній допомозі

Навіть якщо ви не використовуєте AI для вирішення медичних загадок, ваш лікар, ймовірно, вже робить це. За даними звіту Elsevier на 2025 рік, близько половини лікарів зазначили, що працюють з AI-інструментами, і кілька більше кажуть, що це економить їм час. Кожен п’ятий лікар стверджує, що використовував AI для отримання другої думки по складним випадкам. Це не обов'язково означає, що ваш лікар запитує ChatGPT про ваші симптоми.

Лікарі використовували інструменти на основі AI для допомоги в діагностиці пацієнтів та веденні нотаток ще до появи ChatGPT. Серед таких інструментів є системи підтримки прийняття клінічних рішень, спеціально розроблені для лікарів, які вже перевершують звичайні чат-боти — хоча чат-боти можуть справді доповнювати існуючі інструменти. Дослідження 2023 року показало, що лікарі, які працювали з ChatGPT, тільки трохи краще діагностували тестові справи, ніж ті, хто працював самостійно. Цікаво, що сам ChatGPT показав найкращі результати.

Це дослідження стало темою обговорення у пресі, ймовірно, через пропозицію, що чат-боти AI можуть бути кращими за лікарів у діагностиці. Один із співавторів, доктор Адам Родман, припускає, що це могло б бути не так, якщо лікарі були б відкритішими до вислуховування ChatGPT, ніж вважаючи, що чат-боти помиляються, коли результати не відповідають їхнім висновкам. Звісно, AI може помилятися, але він також може виявити зв'язки, які люди могли пропустити. Ще раз, згадайте про випадок з кролячим холодом.

“Patients need to talk to their doctors about their LLM use, and honestly, doctors should talk to their patients about their LLM use.”

“Середній лікар чітко бачить, коли щось не так,” - зазначив Родман, інтерніст у Медичному центрі Бет Ізраїль Діконесс та викладач у Гарвардській медичній школі. “Я не знаю, чи має середній пацієнт таку ж здатність.”

На найближчу перспективу не варто очікувати появу доктора ChatGPT у вашій місцевій клініці. Скоріше, ви побачите AI в ролі помічника, який економить лікарю час на ведення нотаток, а можливо, згодом допомагає аналізувати дані. Ваш лікар може використовувати AI для більш швидкого складання повідомлень для пацієнтів. З розвитком AI-технологій, можливе впровадження ширшого використання таких інструментів у діагностиці та отриманні другої думки. Однак це не означає, що вам слід квапитися до ChatGPT з терміновими медичними питаннями. Якщо вже вирішите це зробити, обов'язково повідомте лікаря про свій досвід.

“Пацієнти повинні говорити зі своїми лікарями про використання LLM, і, чесно кажучи, лікарі повинні спілкуватися зі своїми пацієнтами про своє використання LLM,” - підкреслив Родман. “Якщо ми просто будемо відверті один з одним, це призведе до більш продуктивних розмов.”