KI in der Medizin: Wenn Systemversagen Patienten gefährdet.

Patienten zu Schaden gekommen: Die Schattenseite medizinischer KI

Nach Angaben von Novyny.live: Der Einsatz von Künstlicher Intelligenz in der Medizintechnik birgt erhebliche Risiken. Systemfehler können zu schweren Patientenschäden führen. Ein Beispiel ist die Navigationssystem-Serie TruDi des Konzerns Johnson & Johnson. Vor einem Update im Jahr 2021 waren sieben Störfälle und eine Patientenverletzung dokumentiert. Nach der Integration einer KI-Komponente schnellte die Zahl der gemeldeten Vorfälle auf mindestens einhundert hoch.

Die Gefahren unzureichend geprüfter Innovation

Allein zwischen Ende 2021 und November 2025 könnten mindestens zehn Menschen durch solche Systeme verletzt worden sein. Die dokumentierten Folgen sind gravierend und umfassen:

• Liquorverlust (Austritt von Hirn-Rückenmarks-Flüssigkeit)
• Perforation der Schädelbasis
• Schlaganfälle

Diese Fälle zeigen die dringende Notwendigkeit, neue Technologien vor der breiten Anwendung umfassend zu prüfen. Die regulatorische Zulassung ist oft nur der erste Schritt, die tatsächliche Sicherheit zeigt sich erst im klinischen Alltag.

Ein weiterer Vorfall betrifft den Hersteller Medtronic. Bei der Überprüfung von 16 Vorfällen mit einem Kardio-Monitor kam das Unternehmen zum Schluss, das Gerät habe nur einen einzigen Fall 'übersehen'. Dies unterstreicht die Notwendigkeit einer unabhängigen und strengen Leistungsüberwachung KI-basierter Medizinprodukte. Besorgniserregend ist auch der Zusammenhang zwischen 60 von der FDA zugelassenen KI-Geräten und 182 Produktrückrufen. Ganze 43 Prozent dieser Rückrufe erfolgten weniger als ein Jahr nach der Marktzulassung.

Die aufgedeckten Probleme erfordern höchste Aufmerksamkeit, denn die potenziellen Risiken für Patienten sind katastrophal. Es müssen dringend Maßnahmen zur Verbesserung der Sicherheit und Zuverlässigkeit ergriffen werden.

Zwar hat KI das Potenzial, Diagnostik und Therapie revolutionär zu verbessern, doch die aktuellen Vorfälle belegen: Ohne rigorose Kontrollen, Langzeittests und eine lückenlose Überwachung nach der Zulassung kann der technologische Fortschritt Patienten schwer schaden. Ein strenger regulatorischer Rahmen ist für diese Schlüsseltechnologie unverzichtbar.