System Rekognition zamiast przestępców wskazał polityków
Rekognition to narzędzie firmy Amazon służące do rozpoznawania twarzy. Program zanalizował amerykańską policyjną bazę danych, w której przechowywane są zdjęcia przestępców. Wizerunki zostały powiązane z… 28 kongresmenami USA.

Rekognition
to narzędzie firmy Amazon służące do rozpoznawania twarzy. Program zanalizował amerykańską
policyjną bazę danych, w której przechowywane są zdjęcia przestępców. Wizerunki
zostały powiązane z… 28 kongresmenami USA.
Od
jakiegoś czasu Amazonowi zarzuca się, że w porozumieniu z rządem amerykańskim
pracuje nad systemem permanentnej inwigilacji obywateli. Te obawy skłoniły Amerykańską
Unię Wolności Obywatelskich (ACLU) do przetestowania skuteczności systemu
rozpoznawania twarzy od Amazona. Do systemu Rekognition, który dysponuje 25 tysiącami
zdjęć z aresztowań wprowadzono zeskanowane zdjęcia twarzy wszystkich 535
członków Kongresu.
System
po dokonaniu analizy wskazał 28 kongresmanów jako przestępców. Oczywiście żaden
z szacownych członków Kongresu nigdy wcześniej nie znajdował się w oficjalnej
bazie danych organów ścigania, zatem rezultat „eksperymentu” okazał się
spektakularną porażką. Sprawa okazała się na tyle poważna, że pięciu spośród rzekomo
„zidentyfikowanych” kongresmanów zdecydowało się skierować do szefa Amazona Jeffa
Bezosa list otwarty w związku ze zdarzeniem, w którym proszą o wyjaśnienia, a
także domagają się spotkania.
Amazon
tłumaczy się, że wadliwemu działaniu systemu winna jest jego słaba kalibracja,
a ACLU skorzystała z wyników cechujących się sprawdzalnością na poziomie 80
procent. Według twórców systemu Rekognition to za mało i wyniki powinny
cechować się sprawdzalnością na poziomie 95 procent, szczególnie w przypadkach
przestępstw.
ACLU
napisała w oświadczeniu:
„Identyfikacja, bez względu na to, czy jest dokładna
czy nie, może kosztować ludzi wolność, a nawet życie. Kongres musi poważnie
potraktować te obawy i wprowadzić moratorium na wykorzystanie systemu
rozpoznawania twarzy przez organy ścigania”.
Komentarze obsługuje Disqus. Wczytanie spowoduje połączenie z zewnętrznym serwisem.