Система розпізнавання облич визначила 28 конгресменів США як злочинців

1 хвилина
Система розпізнавання облич визначила 28 конгресменів США як злочинців
Американський союз захисту громадянських свобод (ACLU) протестував систему розпізнавання осіб Amazon Rekognition і виявив, що ПО помилково визначило 28 членів конгресу США як злочинців, повідомляє Arstechnica.

За словами одного з правозахисників Джейка Сноу (Jake Snow), вони завантажили в систему 25 000 фотографій злочинців з «відкритих джерел». Потім ACLU пропустив через Rekognition офіційні фотографії всіх 535 членів конгресу через Rekognition, щоб той порівняв їх зі знімками порушників закону. Сноу відзначає:

«Тест обійшовся нам у 12 $ - дешевше, ніж велика піца».

Система виявила 28 збігів. З усіх «схожих» людей шестеро виявилися представниками Чорного корпусу конгресу США, в тому числі відомий учасник руху за громадянські права Джон Льюїс (John Lewis).
ACLU вже виступав проти використання Rekognition правоохоронцями

У травні ACLU вже вимагав від Amazon перестати продавати свою систему розпізнавання осіб правоохоронним органам. Під листом до гендиректора компанії Джеффу Безос також підписалися представники близько 40 інших правозахисних груп. Тоді ж свій лист Безос написали учасники Чорного кокуса конгресу.

У ACLU відзначали, системою Amazon можуть зловживати для ідентифікації активістів з небажаних організацій, учасників мітингів або іммігрантів без документів. А після проведення тесту правозахисники закликали конгрес ввести мораторій на використання Rekognition правоохоронними органами.

Читайте также