Blogerka YouTube o krok od śmierci po błędnej identyfikacji rośliny przez ChatGPT.

Niebezpieczna pomyłka sztucznej inteligencji

Jak informuje TSN.ua: Krysti, twórczyni kanału YouTube, uniknęła tragicznych konsekwencji po tym, jak model językowy ChatGPT błędnie zidentyfikował śmiertelnie trujący szczwół plamisty. Do zdarzenia doszło, gdy kobieta przesłała aplikacji zdjęcie rośliny z prośbą o rozpoznanie gatunku. Algorytm zasugerował, że jest to liść marchwi, stanowczo wykluczając przy tym toksyczny szczwół.

Weryfikacja za pomocą narzędzia Google Lens ujawniła prawdę – roślina była właśnie niebezpiecznym szczwołem. Krysti podkreśliła, że nie istnieje odtrutka na tę substancję, co ukazuje powagę całej sytuacji. Zaznaczyła również, że choć jako osoba dorosła powinna była zachować większą czujność i skonsultować więcej źródeł, to poleganie wyłącznie na wskazówkach SI mogło skończyć się katastrofą. W Polsce szczwół plamisty rośnie pospolicie na nieużytkach i nad wodami, co zwiększa ryzyko przypadkowego kontaktu.

Konieczność weryfikacji źródeł

Blogerka zwróciła uwagę, że brak jej ostrożności mógł doprowadzić do tragedii. Zaakcentowała kluczową rolę sprawdzania informacji, komentując:

„A co by było, gdyby nie sprawdziła? Dosłownie by umarła, na to nie ma odtrutki” – Krysti

Ta historia stanowi kolejne ostrzeżenie przed bezkrytycznym ufaniem technologiom sztucznej inteligencji w kwestiach związanych z bezpieczeństwem i zdrowiem. Pokazuje, jak istotne jest traktowanie ich sugestii z rezerwą i konsultowanie ich z wiarygodnymi źródłami. Incydent uwydatnia potrzebę nie tylko udoskonalania samych algorytmów, ale także edukowania użytkowników o ich ograniczeniach i potencjalnych zagrożeniach.