Неутешительные выводы: систему распознавания лиц Amazon протестировали на конгрессменах США
Американский союз гражданских свобод ACLU проверял систему распознавания лиц от Amazon и столкнулся с не очень хорошими результатами.
Система Rekognition выдала 28 ложных срабатываний, посчитав 28 конгрессменов правонарушителями, пишет The Verge.
Ни один из 535 членов Конгресса не был в списках правонарушителей, но система Amazon показала серьезный процент ошибок. Организация ACLU уже высказала серьезную озабоченность по поводу использования полицией этой системы распознавания лиц.
«Идентификация — будь то точная или нет — может стоить людям их свободы или даже их жизни. Конгресс должен серьезно относиться к этим угрозам и ввести мораторий на использование правоохранительными органами распознавания лица», — говорится в сопроводительном заявлении группы.
В то же время, представитель Amazon объяснил результаты плохой калибровкой. Тесты ACLU были выполнены с использованием порога доверия по умолчанию 80 процентов, но Amazon заявляет, что рекомендует по крайней мере 95-процентный порог для приложений правоохранительных органов, где ложное срабатывание может иметь более значительные последствия.
«Хотя показатель 80% является приемлемым порогом для распознавания фотографий хот-догов, стульев, животных или других случаев использования в социальных сетях, было бы нецелесообразно идентифицировать людей с таким порогом доверия», — подчеркнул представитель Amazon. При этом он не объяснил, что мешает правоохранительным органам использовать настройку по умолчанию.
Подразделение Amazon Web Services представила Rekognition в 2016 году. Система использует искусственный интеллект для быстрой идентификации людей на фото и видео, а также распознавания текстов.
Читайте нас в Facebook и Тwitter, также подписывайтесь на канал в Telegram, чтобы всегда быть в курсе важных изменений в стране и мире.
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.
