Portal bezpiecznego e-biznesu

System Rekognition zamiast przestępców wskazał polityków

 System Rekognition zamiast przestępców wskazał polityków

Lexlab Bezpieczne regulaminy sklepów i serwisów internetowych Wycena usługi

Rekognition to narzędzie firmy Amazon służące do rozpoznawania twarzy. Program zanalizował amerykańską policyjną bazę danych, w której przechowywane są zdjęcia przestępców. Wizerunki zostały powiązane z… 28 kongresmenami USA.

System Rekognition zamiast przestępców wskazał polityków

Od jakiegoś czasu Amazonowi zarzuca się, że w porozumieniu z rządem amerykańskim pracuje nad systemem permanentnej inwigilacji obywateli. Te obawy skłoniły Amerykańską Unię Wolności Obywatelskich (ACLU) do przetestowania skuteczności systemu rozpoznawania twarzy od Amazona. Do systemu Rekognition, który dysponuje 25 tysiącami zdjęć z aresztowań wprowadzono zeskanowane zdjęcia twarzy wszystkich 535 członków Kongresu.

System po dokonaniu analizy wskazał 28 kongresmanów jako przestępców. Oczywiście żaden z szacownych członków Kongresu nigdy wcześniej nie znajdował się w oficjalnej bazie danych organów ścigania, zatem rezultat „eksperymentu” okazał się spektakularną porażką. Sprawa okazała się na tyle poważna, że pięciu spośród rzekomo „zidentyfikowanych” kongresmanów zdecydowało się skierować do szefa Amazona Jeffa Bezosa list otwarty w związku ze zdarzeniem, w którym proszą o wyjaśnienia, a także domagają się spotkania.

Amazon tłumaczy się, że wadliwemu działaniu systemu winna jest jego słaba kalibracja, a ACLU skorzystała z wyników cechujących się sprawdzalnością na poziomie 80 procent. Według twórców systemu Rekognition to za mało i wyniki powinny cechować się sprawdzalnością na poziomie 95 procent, szczególnie w przypadkach przestępstw.

ACLU napisała w oświadczeniu:

„Identyfikacja, bez względu na to, czy jest dokładna czy nie, może kosztować ludzi wolność, a nawet życie. Kongres musi poważnie potraktować te obawy i wprowadzić moratorium na wykorzystanie systemu rozpoznawania twarzy przez organy ścigania”.

Komentarze

‹ Poprzedni artykułPrzedsiębiorstwa starają się zadowolić klientów przed organami odpowiedzialnymi zgodność z RODO Następny artykuł ›Krajowy System e-Faktur (KSeF) w Polsce – rewolucja w fakturowaniu

Newsletter

Bądź zawsze na bieżąco, czuj się bezpiecznie w sieci. Wcale nie spam. Zapisz się do Newslettera.

Adwokat Art. 178A KK Katowice

Legalniewsieci.pl © 2024. Realizacja: Bling SH. Kodowanie: weboski.

Legalman

Logowanie


Nie masz jeszcze konta?

Zachęcamy do założenia konta.
Rejestracja zajmie Ci tylko chwilę.
Zarejestruj się