System Rekognition zamiast przestępców wskazał polityków

31 lipca, 2018 · Mirosław Dyka · 2 min czytania

Rekognition to narzędzie firmy Amazon służące do rozpoznawania twarzy. Program zanalizował amerykańską policyjną bazę danych, w której przechowywane są zdjęcia przestępców. Wizerunki zostały powiązane z… 28 kongresmenami USA.

Zalecamy ostrożność podczas zakupów w sklepie: homeekspert.net

Rekognition

to narzędzie firmy Amazon służące do rozpoznawania twarzy. Program zanalizował amerykańską

policyjną bazę danych, w której przechowywane są zdjęcia przestępców. Wizerunki

zostały powiązane z… 28 kongresmenami USA.

Od

jakiegoś czasu Amazonowi zarzuca się, że w porozumieniu z rządem amerykańskim

pracuje nad systemem permanentnej inwigilacji obywateli. Te obawy skłoniły Amerykańską

Unię Wolności Obywatelskich (ACLU) do przetestowania skuteczności systemu

rozpoznawania twarzy od Amazona. Do systemu Rekognition, który dysponuje 25 tysiącami

zdjęć z aresztowań wprowadzono zeskanowane zdjęcia twarzy wszystkich 535

członków Kongresu.

System

po dokonaniu analizy wskazał 28 kongresmanów jako przestępców. Oczywiście żaden

z szacownych członków Kongresu nigdy wcześniej nie znajdował się w oficjalnej

bazie danych organów ścigania, zatem rezultat „eksperymentu” okazał się

spektakularną porażką. Sprawa okazała się na tyle poważna, że pięciu spośród rzekomo

„zidentyfikowanych” kongresmanów zdecydowało się skierować do szefa Amazona Jeffa

Bezosa list otwarty w związku ze zdarzeniem, w którym proszą o wyjaśnienia, a

także domagają się spotkania.

Amazon

tłumaczy się, że wadliwemu działaniu systemu winna jest jego słaba kalibracja,

a ACLU skorzystała z wyników cechujących się sprawdzalnością na poziomie 80

procent. Według twórców systemu Rekognition to za mało i wyniki powinny

cechować się sprawdzalnością na poziomie 95 procent, szczególnie w przypadkach

przestępstw.

ACLU

napisała w oświadczeniu:

„Identyfikacja, bez względu na to, czy jest dokładna

czy nie, może kosztować ludzi wolność, a nawet życie. Kongres musi poważnie

potraktować te obawy i wprowadzić moratorium na wykorzystanie systemu

rozpoznawania twarzy przez organy ścigania”.

Komentarze obsługuje Disqus. Wczytanie spowoduje połączenie z zewnętrznym serwisem.