Биометрическая система Amazon распознала членов Конгресса США как преступников

Американский союз защиты гражданских свобод (American Civil Liberties Union, ACLU) протестировал систему распознавания лиц Amazon под названием Rekognition от Amazon. По словам представителей организации, программное обеспечение ошибочно определило 28 членов Конгресса США как людей, которые были арестованы за преступления.

По словам юристов, организация загрузила в систему 25 тыс. фотографий людей из открытого источника. Затем члены ACLU загрузили официальные фотографии всех 535 членов Конгресса, предложив Rekognition сопоставить их с любой из фотографий преступников. В итоге система обнаружила 28 совпадений.

В связи с высокой возможностью ошибки ACLU призвала Конгресс «принять мораторий на использование правоохранительными органами систем для распознавания лиц».

По словам представителей Amazon, ошибки при сопоставлении фото были вызваны некорректной настройкой программы.

Выставленный ACLU 80% уровень соответствия фотографий является приемлемым порогом для изображений хот-догов, стульев и животных, однако было бы нецелесообразно идентифицировать людей с данными настройками. При использовании системы распознавания лиц для деятельности правоохранительных органов мы рекомендуем клиентам устанавливать порог соответствия не менее 95% или выше.