Zawodna technologia rozpoznawania twarzy

| Technologia
ACLU

Technologia rozpoznawania twarzy Rekognition oferowana przez Amazona od dawna budziła kontrowersje. Teraz budzi jeszcze większe. Organizacja American Civil Liberties (ACLU) Union informuje, że uznała ona 28 kongresmenów za... skazanych przestępców.

Do przeprowadzenia naszego testu wykorzystaliśmy komercyjny system rozpoznawania twarzy Amazona. Każdy może użyć go do poszukiwania podobnych twarzy. Cały test kosztował nas w sumie 12,33 USD, mniej niż duża pizza, czytamy na stronie ACLU.

Najpierw badacze stworzyli bazę danych składającą się z 25 000 publicznie dostępnych fotografii osób aresztowanych. Następnie wydali oprogramowaniu polecenie, by sprawdziło, czy wśród członków Senatu i Izby Reprezentantów USA nie znajdują się osoby ze wspomnianej bazy. Sprawdzenia dokonano przy standardowych ustawieniach Rekognition. Okazało się, że oprogramowanie uznało, iż 28 członków Kongresu USA było wcześniej aresztowanych.

Okazuje się, że oprogramowanie szczególnie słabo radzi sobie z rozpoznawaniem osób innych niż Białe. Kolorowi stanowią 20% członków Kongresu USA, ale w fałszywie rozpoznanej próbie stanowili oni 39%.

To przykład pokazujący, jak bardzo niedoskonała jest to technologia. Wygląda jednak na to, że nie tylko rozpoznawanie twarzy poważnie kuleje. Niedawno w San Francisco policja zatrzymała samochód, a kierująca nim starsza kobieta została zakuta w kajdanki i klęczała podczas gdy policjanci mierzyli do niej z broni. Okazało się, że automatyczny system rozpoznawania tablic rejestracyjnych niewłaściwie uznał jej samochód za kradziony.

Test przeprowadzony przez ACLU pokazuje realny problem, gdyż Amazon bardzo intensywnie reklamuje Rekognition, chwaląc się, że w pojedynczego zdjęcia potrafi on wyłowić 100 twarzy oraz śledzić ludzi w czasie rzeczywistym korzystając z rozmieszczonych w mieście kamer CCTV. W stanie Oregon jedna z jednostek policyjnych już wykorzystuje Rekognition do porównywania wizerunków ludzi z bazą ze zdjęciami osób aresztowanych.

Warto jednak dodać, że przynajmniej jeden z rozpoznanych przez Rekognition członków Kongresu był wielokrotnie aresztowany. Członek Izby Reprezentantów, republikanin John Lewis, był kilkadziesiąt razy zatrzymywany przez policję. W październiku 2013 roku jego biuro poinformowało, że pan Lewis został zatrzymany po raz 45. w życiu. W latach 60. był zatrzymany około 40 razy, gdyż był działaczem ruchu praw człowieka. Pięciokrotnie był zatrzymywany już po zdobyciu mandatu posła: dwukrotnie pod ambasadą RPA, gdy protestował przeciwko apartheidowi, dwukrotnie pod ambasadą Sudanu w czasie protestów przeciwko ludobójstwu w Darfurze oraz raz w czasie protestu na rzecz imigrantów. Podczas tego samego protestu policja zatrzymała jeszcze kilku innych członków Izby Reprezentantów.

Autor:

Źródło: ACLU

Rekognition Amazon rozpoznawanie twarzy