Темная сторона ИИ в здравоохранении: пациенты под ударом из-за сбоев.

Десятки пострадавших: цена ошибок искусственного интеллекта в медицине

Как сообщает Novyny.live: Внедрение систем искусственного интеллекта в клиническую практику сопровождается серьезными инцидентами, наносящими вред здоровью пациентов. Яркий пример — навигационная система TruDi от компании Johnson & Johnson. До её обновления в 2021 году было зарегистрировано семь не подтверждённых официально сбоев и одна травма. Однако после интеграции алгоритмов ИИ количество подобных сообщений резко возросло, достигнув как минимум ста случаев. Для российского рынка это важный сигнал: импортные высокотехнологичные решения требуют особенно тщательной валидации в местных условиях.

Скрытые угрозы инноваций

С конца 2021 года по ноябрь 2025 года не менее десяти человек могли получить повреждения из-за работы подобных автоматизированных систем. В документации фигурируют тяжелые последствия, включая:

• инсульты
• утечку спинномозговой жидкости
• прокол основания черепа

Эти данные указывают на существенные риски, которые несут с собой новые медицинские технологии. Статистика регулятора США (FDA) показывает тревожную связь: среди 60 одобренных устройств с ИИ и 182 отозванных продуктов 43% отзывов произошли менее чем через год после получения разрешения на использование.

Другой показательный случай связан с компанией Medtronic, производителем кардиомониторов. Внутренний аудит 16 эпизодов показал, что устройство «пропустило» лишь один случай, но даже это подчеркивает критическую необходимость постоянного контроля и оценки эффективности подобных приборов. Проблемы безопасности ИИ в медицине требуют самого пристального внимания, поскольку потенциальные последствия для пациентов могут быть катастрофическими. Требуются незамедлительные меры для повышения надежности этих систем.

Несмотря на огромный потенциал для улучшения диагностики и лечения, выявленные недостатки свидетельствуют о необходимости более строгого контроля и длительных испытаний перед широким внедрением. Без адекватного мониторинга и оценки рисков искусственный интеллект может причинить серьезный вред, что делает роль регуляторных органов в этой сфере исключительно важной. Это глобальный вызов, актуальный и для отечественного здравоохранения, активно цифровизирующегося.