Ciemna strona medycyny: kiedy sztuczna inteligencja zagraża pacjentom.

Poważne obrażenia pacjentów przez wadliwe systemy AI

Jak informuje Novyny.live: Wprowadzenie sztucznej inteligencji do technologii medycznych nie obyło się bez poważnych incydentów, w wyniku których poszkodowani zostali ludzie. Przykładem jest firma Johnson & Johnson, która w 2021 roku wprowadziła aktualizację do systemu nawigacyjnego TruDi. Jeszcze przed tą aktualizacją odnotowano siedem niezależnie potwierdzonych awarii oraz jeden przypadek uszkodzenia ciała pacjenta. Po integracji algorytmów sztucznej inteligencji liczba niepotwierdzonych oficjalnie zgłoszeń problemów wzrosła do co najmniej stu.

Nowe technologie – nowe zagrożenia

Od końca 2021 roku do listopada 2025 co najmniej dziesięć osób mogło odnieść obrażenia w związku z działaniem takich systemów. W dokumentacji medycznej tych przypadków wymienia się między innymi:

• wyciek płynu mózgowo-rdzeniowego
• przebicie podstawy czaszki
• udary mózgu

Te zdarzenia wyraźnie pokazują, jak poważne ryzyko wiąże się z pochopnym wdrażaniem nowinek technologicznych w klinikach i szpitalach. Kontekst regulacyjny jest kluczowy, ponieważ tempo rozwoju AI często wyprzedza tworzenie odpowiednich przepisów bezpieczeństwa.

Inny incydent dotyczył firmy Medtronic, producenta monitorów serca. Po przeanalizowaniu szesnastu epizodów, przedsiębiorstwo stwierdziło, że urządzenie 'przeoczyło' tylko jeden przypadek. To podkreśla konieczność ciągłego, wnikliwego nadzoru nad skutecznością medycznych urządzeń wykorzystujących AI. Ponadto, dane pokazują związek między 60 urządzeniami z AI dopuszczonymi przez amerykańską Agencję Żywności i Leków (FDA) a 182 wycofanymi produktami. Aż 43% tych wycofań miało miejsce w ciągu roku od uzyskania pozwolenia na dopuszczenie do obrotu.

Problemy z wykorzystaniem sztucznej inteligencji w ochronie zdrowia wymagają pilnej i poważnej uwagi, ponieważ potencjalne ryzyko dla pacjentów może mieć katastrofalne skutki. Konieczne jest podjęcie działań na rzecz poprawy bezpieczeństwa i niezawodności tych technologii.

Choć wdrożenie AI w medycynie ma ogromny potencjał w zakresie usprawnienia diagnostyki i terapii, ujawnione przypadki dowodzą, że niezbędne są bardziej rygorystyczne kontrole oraz testy przed ich powszechnym zastosowaniem. Bez odpowiedniego nadzoru i oceny ryzyka, sztuczna inteligencja zamiast leczyć, może pacjentom poważnie zaszkodzić, co uwydatnia kluczową rolę organów regulacyjnych w tej dynamicznie rozwijającej się dziedzinie.