Штучний інтелект у медицині: як збої в системах призводять до травм пацієнтів.

Як штучний інтелект у медицині покалічив десятки пацієнтів

Як повідомляє Novyny.live: Використання штучного інтелекту в медичних технологіях викликало серйозні проблеми, зокрема збої в системах, які призводять до шкоди пацієнтам. У 2021 році компанія Johnson & Johnson представила оновлення навігаційної системи TruDi. Однак до оновлення було зафіксовано непідтверджено сім збоїв та один випадок травмування пацієнта. Після інтеграції штучного інтелекту кількість непідтверджених звітів зросла до щонайменше сотні.

Ризики впровадження нових технологій

Між кінцем 2021 року та листопадом 2025 року щонайменше десятеро людей могли зазнати ушкоджень унаслідок роботи таких систем. Серед наслідків, які відзначаються в цих випадках, є:

• витік спинномозкової рідини
• прокол основи черепа
• інсульти

Це свідчить про серйозні ризики, пов'язані з впровадженням нових технологій у медичну практику.

У ще одному випадку компанія Medtronic, виробник кардіомоніторів, переглянула 16 епізодів та дійшла висновку, що пристрій 'пропустив' лише один випадок. Це підкреслює необхідність ретельного моніторингу та оцінки ефективності медичних пристроїв на основі штучного інтелекту. Крім того, між 60 FDA-дозволеними ШІ-пристроями та 182 відкликаннями продуктів існує зв'язок, з яких 43% відкликань сталися менш ніж за рік після отримання 'зеленого світла'.

Проблеми з використанням штучного інтелекту в медицині вимагають серйозної уваги, оскільки потенційні ризики для пацієнтів можуть мати катастрофічні наслідки. Необхідно вжити заходів для покращення безпеки та надійності цих технологій.

Впровадження штучного інтелекту в медицину має потенціал для значного підвищення ефективності діагностики та лікування, проте виявлені проблеми свідчать про необхідність більш ретельного контролю та тестування таких технологій перед їх масовим використанням. Без належного моніторингу і оцінки ризиків, штучний інтелект може завдати серйозної шкоди пацієнтам, що підкреслює важливість регуляторного нагляду в цій сфері.