Mężczyzna błędnie zidentyfikowany jako włamywacz przez sztuczną inteligencję oskarża policję o „uprzedzenia rasowe

Mężczyzna, który został aresztowany przez pomyłkę po tym, jak system sztucznej inteligencji błędnie go zidentyfikował jako włamywacza, twierdzi, że policja nie powinna mieć prawa korzystać z tej technologii ze względu na „uprzedzenia rasowe” oraz „przerażającą” stopę błędów oprogramowania. Alvi Choudhury w wieku 26 lat pracował zdalnie w swoim domu w Southampton, gdzie mieszka z rodzicami, 7 stycznia podczas gdy policja aresztowała go i przetrzymała przez 10 godzin. System automatycznego rozpoznawania twarzy policji Thames Valley dopasował jego zdjęcie służbowe – zrobione po fałszywym aresztowaniu pięć lat wcześniej – do nagrania złodzieja, który ukradł 3000 funtów i biżuterię z buddyjskiego Vihara w Milton Keynes miesiąc wcześniej. Ostatecznie został uwolniony bez dalszych działań o godzinie 2:00 rano, gdy policjanci zorientowali się, że nie jest to człowiek z nagrania z monitoringu. Inżynier oprogramowania, pan Choudhury, pozwał policję i mówi, że chce zarówno odszkodowania, jak i przeprosin, aby zrekompensować mu męczące doświadczenie. Powiedział Daily Mail, że wini oprogramowanie, które zwraca fałszywe dopasowania w 4 procentach przypadków wśród Azjatów, oraz detektywów analizujących nagrania. Pan Choudhury powiedział: „Żadna firma technologiczna nigdy nie wprowadziłaby systemu z stopą błędów wynoszącą jedno na 25. To przerażające. Jest pełen błędów.” Dodał: „Powiedzieli, że oficerowie przeanalizowali wizualnie nagrania. To jeszcze bardziej niepokojące, ponieważ to prawdopodobnie dyskryminacja rasowa. Przypuszczalnie widzieli dwóch brunetów, chociaż mieli zupełnie inne cechy i stwierdzili: „tak, wyglądają dość podobnie. Aresztujmy ich.”” Według pana Choudhury’ego nagranie z kamery przestępstwa przedstawiało młodszego mężczyznę, który wyglądał inaczej niż on pod każdym względem, z wyjątkiem wspólnego kręconego włosia. TVP powiedział, że inny mężczyzna, Eduard Zlatineanu, 23 lata, został aresztowany w dniu przestępstwa i przyznał się do winy w Aylesbury Crown Court zaledwie pięć dni po fałszywym aresztowaniu pana Choudhury’ego. Drugi sprawca, który pomógł w kradzieży łupów z funduszu dla ofiar powodzi na Sri Lance w viharze, pozostaje niezidentyfikowany. Siły porządkowe potwierdziły, że aresztowanie pana Choudhury’ego „opierało się na własnej wizualnej ocenie oficerów prowadzących śledztwo” po początkowym dopasowaniu automatycznym. „Zobaczyli, że pasuję, mogliby przeprowadzić jakieś badania, jakieś informacje o moim tle i nie tylko spojrzeć na dwa zdjęcia i przyjść mnie aresztować,” dodał pan Choudhury. „Gdyby zrobili jakąkolwiek rzeczywistą pracę detektywistyczną, od razu by mnie wykluczyli, nawet jeśli ich system rozpoznawania twarzy zidentyfikował mnie jako podejrzanego.” Jego zdjęcie służbowe było w systemie po poprzednim fałszywym aresztowaniu w 2021 roku, gdy był jeszcze studentem w Portsmouth. Wtedy on i jego grupa czterech kobiet i czterech mężczyzn zostali zaatakowani przez grupę osmiu do dziesięciu mężczyzn, gdy zamawiali jedzenie na wynos po wyjściu wieczorem. Gdy jego przyjaciel leżał z wybitymi zębami, a pan Choudhury leczył rany „na całej głowie”, grupa była zaskoczona, gdy zamiast przyjść z pomocą, na miejsce przyjechali policjanci, by ich aresztować. Pan Choudhury został przesłuchany po 16 do 17 godzinach w areszcie i aresztowany, gdy policja dowiedziała się, że innym pare została zaatakowana w tę samą noc. Dopiero gdy policjanci obejrzeli nagrania z kamer obu ataków, pan Choudhury został ostatecznie oczyszczony. Powiedzieli, że jego informacje i DNA zostaną usunięte z systemu, ale jego twarz nadal znajdowała się w oprogramowaniu, gdy został aresztowany w styczniu. „Teraz mają kolejne zdjęcie mnie, teoretycznie, z tym systemem rozpoznawania twarzy zostanę dopasowany dwukrotnie częściej” – dodał. „Mogę być ciągle aresztowany.” Oprogramowanie rozpoznawania twarzy jest dalekie od bycia nieskuteczne, a badania Ministerstwa Spraw Wewnętrznych z grudnia ujawniły, że dopasowania dla czarnych twarzy stanowią 5,5 procent fałszywych pozytywów, znacznie więcej niż 0,04 procent fałszywych pozytywów dla białych twarzy. Systemy zazwyczaj są zatwierdzane przez poszczególne siły policyjne, jednak Ministerstwo Spraw Wewnętrznych dążyło do ich wdrożenia i pozyskało niemiecki algorytm używany do przeszukiwania około 19 milionów zdjęć policyjnych na krajowej bazie danych. Przeprowadzają około 25 000 wyszukiwań na miesiąc, a według Krajowej Rady Szefów Policji, dopasowania powinny być traktowane jako informacje, a nie fakty. Pan Choudhury wzywa rząd do przyjęcia odpowiedzialności za wady systemu i przegląd jego użycia. Powiedział: „Naprawdę trzeba to przemyśleć. Ktoś musi ponieść odpowiedzialność, musi być konsekwencje, nowe prawa i ustawy wdrożone, aby chronić członków społeczeństwa. „Potrzebne są przepisy dotyczące korzystania z systemów AI do rozpoznawania twarzy. Trzeba przeprowadzić śledztwo w policji, a oni muszą postępować bardziej profesjonalnie w wykonywaniu swojej pracy.” Pan Choudhury wspomniał jak nie zostało mu nawet pozwolone zabrać płaszcza, gdy policjanci zakładali mu kajdanki i przeszukiwali mienie jego rodziców. „Tylko powiedziałem, „Hej, oficerowie, nie jestem w żadnych kłopotach, prawda?” jako żart” – dodał. „Nawet nie byłem w Milton Keynes, pracowałem w tamten dzień, miałem spotkania, rozmawiałem z klientami i moim zespołem wewnętrznym, chodziłem do Tesco w czasie przerwy na lunch, wykonywałem transakcje bankowe w Southampton.” Mąż Choudhury obawia się, że skutki jego ostatniego fałszywego aresztowania mogą mu przynieść kłopoty w pracy, pomimo że był szybko zwolniony po przesłuchaniu. Inżynier oprogramowania ma pozwolenie bezpieczeństwa od Home Office i Met Police, a jego przeżycie musiało być zgłoszone. „Teraz to wygląda bardzo podejrzanie” – mówił. Komisarze ds. policji i przestępczości ostrzegali przed „zabójczymi wrodzonymi uprzedzeniami”, a dodawali, że „choć nie ma dowodów na negatywny wpływ w przypadku żadnej konkretnej sprawy, to raczej z przypadku niż zaplanowanie.” Przedstawiciel TVP wcześniej powiedział: „Przepraszamy za przykrość spowodowaną skarżącemu w tym przypadku, areszt był oparty na własnej wizualnej ocenie prowadzących śledztwo, że osoba pasuje do podejrzanego na nagraniu z kamery monitoringu, na podstawie retrospektywnego dopasowania twarzy, a nie został wpływany przez profilowanie rasowe. „Dla potwierdzenia, retrospektywna technologia rozpoznawania twarzy początkowo dostarczała informacje, ale nie determinowała aresztu. „Chociaż późniejsze dochodzenia usunęły osobę z dochodzenia, to nie czyni to aresztu bezprawnym. „Kontynuujemy odpowiedzialne wykorzystywanie narzędzi policyjnych, dążąc do ich ulepszenia i budowania zaufania w społecznościach.” Hampshire Constabulary wcześniej odmówił skomentowania. Adwokat pana Choudhury’ego, Iain Gould z DPP Law, powiedział: „To nie jest policowanie uzyskujące zgodę ani rozumne postępowanie. W tym przypadku policja bawiła się w loterię z życiem ludzi, a Alvi został niesłusznie aresztowany; teraz policja musi zapłacić za to.” W odpowiedzi na doświadczenie pana Choudhury’ego, dr Mary-Ann Stephenson, przewodnicząca Komisji Równości i Praw Człowieka, powiedziała: „Gdy technologie takie jak rozpoznawanie twarzy są używane w taki sposób, który szanuje i chroni prawa i zainteresowania ludzi, mogą one pomóc w zwalczaniu poważnej przestępczości i chronieniu ludzi. „Jednak, jak widzieliśmy, istnieje ryzyko, że te technologie mogą być niedokładne i błędnie identyfikować osoby. „Dane wykazują, że istnieją różnice rasowe w identyfikacji fałszywych pozytywów, co powoduje naruszenia praw człowieka i cierpienie osób dotkniętych tym. „To oznacza, że potrzebujemy jasnych zasad, które gwarantują, że technologia rozpoznawania twarzy jest używana tylko wtedy, gdy jest to konieczne, proporcjonalne i ograniczone odpowiednimi zabezpieczeniami. „Aby zapewnić, że nowy system jest stosowany właściwie, powinno zostać powołane nowe niezależne organ z odpowiednimi uprawnieniami egzekwowania i nadzoru, aby zapewnić zgodność.” W zeszłym miesiącu niewinny klient sieci Sainsbury został wyprowadzony ze swojego lokalnego sklepu przez personel po tym, jak oprogramowanie rozpoznawania twarzy prawidłowo zidentyfikowało przestępcę wewnątrz – ale personel wyprowadził zły człowiek. Warren Rajah przebywał w sklepie supermarketu Elephant and Castle, gdy nagle dwie osoby z obsługi i ochroniarz eskortowali go na zewnątrz w tym, co opisał jako „najbardziej upokarzający moment w swoim życiu”. Gdy 42-latek zapytał dlaczego, wskazali na znak pokazujący, że sklep korzysta z technologii rozpoznawania twarzy. W rzeczywistości pomylili go z osobą, która była w systemie w celu kradzieży sklepowej i również weszła do sklepu w tym samym czasie. To nastąpiło po tym, jak policja Południowego Walii w styczniu wypłaciła odszkodowanie czarnemu mężczyźnie, który został zidentyfikowany jako możliwe dopasowanie do podejrzanego o stalking mimo znajdując się na 32. miejscu na liście sugerowanych dopasować w technologii rozpoznawania twarzyDependency>