Lebensgefahr durch KI: YouTuberin entgeht knapp einer Vergiftung durch ChatGPT-Fehler.

Eine fast tödliche Verwechslung

Nach Angaben von TSN.ua: Eine YouTuberin namens Kristi wäre beinahe an einer Vergiftung gestorben, nachdem ihr die KI ChatGPT eine fatale Fehlinformation zu einer Pflanze gab. Sie hatte ein Foto der Gewächses an den KI-Chat gesendet, um es bestimmen zu lassen. Die künstliche Intelligenz behauptete daraufhin, es handele sich um harmloses Karottenkraut und schloss explizit aus, dass es sich um den hochgiftigen Gefleckten Schierling handeln könnte.

Eine Überprüfung mit Google Lens brachte jedoch die lebensbedrohliche Wahrheit ans Licht: Bei der Pflanze handelte es sich tatsächlich um Schierling. Kristi wies darauf hin, dass es kein Gegengift für diese Vergiftung gibt, was die extreme Gefahr unterstreicht. Sie äußerte ihre Bestürzung darüber, dass sie als Erwachsene zwar wusste, weitere Quellen zu konsultieren – doch dieser Schritt hätte leicht unterbleiben können, mit katastrophalen Folgen.

KI ist kein unfehlbarer Experte

Kristi betonte, dass nur ihre eigene Vorsicht eine Tragödie verhinderte. Sie machte deutlich, wie wichtig die kritische Überprüfung von KI-Aussagen ist und zitierte ihre eigenen Gedanken:

„Was, wenn nicht? Sie wäre buchstäblich gestorben, es gibt kein Gegengift dafür“ - Kristi

Dieser Vorfall ist eine eindringliche Mahnung, Technologien der künstlichen Intelligenz niemals blind zu vertrauen, insbesondere in lebenswichtigen Gesundheitsfragen. KI-Assistenten sind mächtige Werkzeuge, aber keine unfehlbaren Experten. Ihre Antworten können fehlerhaft oder irreführend sein, wie dieser Fall drastisch beweist. Es zeigt sich, dass neben der technischen Entwicklung auch die digitale Mündigkeit der Nutzer von entscheidender Bedeutung ist.

Generative KI-Modelle wie ChatGPT werden auf großen Textmengen trainiert, können aber keine echte Urteilskraft oder Verantwortung übernehmen. Bei der Identifikation von Pflanzen, Pilzen oder medizinischen Fragen sollte stets auf gesichertes Fachwissen oder Experten zurückgegriffen werden.