Система распознавания лиц определила 28 конгрессменов США как преступников

1 минута
Система распознавания лиц определила 28 конгрессменов США как преступников
Американский союз защиты гражданских свобод (ACLU) протестировал систему распознавания лиц Amazon Rekognition и выявил, что ПО ошибочно определило 28 членов конгресса США как преступников, сообщает Arstechnica.

По словам одного из правозащитников Джейка Сноу (Jake Snow), они загрузили в систему 25 000 фотографий преступников из «открытых источников». Затем ACLU пропустил через Rekognition официальные фотографии всех 535 членов конгресса через Rekognition, чтобы тот сравнил их со снимками нарушителей закона. Сноу отмечает:

«Тест обошёлся нам в 12 $ — дешевле, чем большая пицца».

Система выявила 28 совпадений. Из всех «схожих» людей шестеро оказались представителями Чёрного кокуса конгресса США, в том числе известный участник движения за гражданские права Джон Льюис (John Lewis).
ACLU уже выступал против использования Rekognition правоохранителями

В мае ACLU уже требовал от Amazon перестать продавать свою систему распознавания лиц правоохранительным органам. Под письмом к гендиректору компании Джеффу Безосу также подписались представители около 40 других правозащитных групп. Тогда же своё письмо Безосу написали участники Чёрного кокуса конгресса.

В ACLU отмечали, системой Amazon могут злоупотреблять для идентификации активистов из нежелательных организаций, участников митингов или иммигрантов без документов. А после проведения теста правозащитники призвали конгресс ввести мораторий на использование Rekognition правоохранительными органами.