Programista zatrzymany przez brytyjską policję przez błąd AI – system pomylił twarze.

Fałszywe rozpoznanie w Wielkiej Brytanii

Jak informuje TSN.ua: 7 stycznia w Southampton doszło do zatrzymania 26-letniego inżyniera oprogramowania, Alviego Chowdhury'ego. Mężczyzna został oskarżony o kradzież biżuterii wartej 3000 funtów, której nie popełnił. Winowajcą okazał się system rozpoznawania twarzy, który błędnie dopasował jego zdjęcie z policyjnej bazy danych do nagrania z monitoringu z miejsca przestępstwa w Milton Keynes.

Jak przyznała funkcjonariuszka prowadząca sprawę, jeszcze przed rozpoczęciem przesłuchania wiedziała, że Chowdhury nie jest poszukiwanym sprawcą. To zdarzenie unaocznia poważne luki w technologii stosowanej przez organy ścigania.

Obawy o dyskryminację rasową

Chowdhury wyraził zaniepokojenie, że błąd systemu mógł wynikać z jego pochodzenia etnicznego. Stwierdził:

„To jeszcze bardziej niepokoi, bo to prawdopodobnie dyskryminacja rasowa.” – Alvi Chowdhury

Statystyki dotyczące pomyłek w rozpoznawaniu twarzy są alarmujące:

• Dla osób o ciemnej karnacji – 5,5%
• Dla osób o jasnej karnacji – zaledwie 0,04%

Chowdhury zwrócił uwagę, że „żadna firma technologiczna nie wypuściłaby na rynek systemu z awaryjnością na poziomie 1 do 25”.

Sprawa wywołała debatę na temat dokładności systemów rozpoznawania twarzy i ich stosowania przez policję. Alvi Chowdhury mierzy się teraz z konsekwencjami niesłusznego aresztowania, a jego historia podkreśla konieczność weryfikacji i ulepszania narzędzi identyfikacyjnych.

Incydent stał się ważnym przykładem ryzyka związanego z wykorzystaniem technologii rozpoznawania twarzy w praktyce organów ścigania. Kwestie precyzji i etyki takich systemów wymagają poważnej dyskusji, ponieważ błędne zatrzymania mogą mieć niszczycielski wpływ na życie ludzi. Biorąc pod uwagę statystyki pomyłek, kluczowe jest zwrócenie uwagi na potencjalne uprzedzenia w algorytmach i zapewnienie odpowiedniego nadzoru nad ich wdrażaniem w społeczeństwie.