Невтішні висновки: систему розпізнавання облич від Amazon протестували на конгресменах США

Американський союз громадянських свобод ACLU перевіряв систему розпізнавання облич від Amazon і зіткнувся з не дуже хорошими результатами.

Система Rekognition видала 28 помилкових спрацьовувань, вважаючи 28 конгресменів правопорушниками, пише The Verge.

Жоден з 535 членів Конгресу не був у списках правопорушників, але система Amazon показала серйозний відсоток помилок. Організація ACLU вже висловила серйозну заклопотаність з приводу використання поліцією цієї системи розпізнавання обличчя.

"Ідентифікація – будь то точна чи ні – може коштувати людям їх свободи або навіть їх життя. Конгрес повинен серйозно ставитися до цих погроз і ввести мораторій на використання правоохоронними органами розпізнавання обличчя", – йдеться в супровідній заяві групи.

У той же час, представник Amazon пояснив результати поганим калібруванням. Тести ACLU були виконані з використанням порогу довіри за замовчуванням 80 відсотків, але Amazon заявляє, що рекомендує принаймні 95-відсотковий поріг для додатків правоохоронних органів, де помилкове спрацьовування може мати значно більші наслідки.

"Хоча показник 80% є прийнятним порогом для розпізнавання фотографій хот-догів, стільців, тварин або інших випадків використання в соціальних мережах, було б недоцільно ідентифікувати людей з таким порогом довіри", – підкреслив представник Amazon. При цьому він не пояснив, що заважає правоохоронним органам використовувати налаштування за замовчуванням.

Підрозділ Amazon Web Services представила Rekognition в 2016 році. Система використовує штучний інтелект для швидкої ідентифікації людей на фото і відео, а також розпізнавання текстів.

Читайте нас в Facebook і Тwitter, також підписуйтесь на канал в Telegram, щоб завжди бути в курсі важливих змін в країні і світі.