Департамент полиции Детройта урегулировал иск, поданный Robert Julian-Borchak Williamsчернокожий мужчина, который был несправедливо арестован в январе 2020 года на основании ошибочного распознавания лица.
В рамках поселениеПолицейское управление Детройта согласилось ввести новые правила использования технологии распознавания лиц.
К ним относятся:
- Запрет на аресты, основанные исключительно на распознавании лиц
- Требование дополнительных доказательств, помимо распознавания лиц, перед включением подозреваемого в фоторобот
- Обязательное обучение офицеров ограничениям и рискам технологии распознавания лиц
- Проведение аудита всех случаев с 2017 года, когда распознавание лиц использовалось для получения ордера на арест
Инцидент начался в октябре 2018 года, когда мужчина украл пять часов из магазина Shinola в Детройте.
Следователи использовали снимок с камеры видеонаблюдения магазина. Они прогнали его через систему распознавания лиц полицейского управления Детройта, в результате чего подозреваемый был неправильно сопоставлен с фотографией водительских прав Уильямса.
Несмотря на явные различия между Williams и подозреваемого, следователи приступили к аресту.
Во время допроса Уильямс держал изображение с камеры наблюдения рядом со своим лицом и спрашивал детективов: "Вы думаете, все чернокожие мужчины выглядят одинаково?".
В конце концов детективы признали ошибку, а один из них признался: "Наверное, компьютер ошибся".
Уильямс провел в тюрьме около 30 часов и с тех пор борется с эмоциональной травмой, полученной в результате этого преступления.
"Моей жене и маленьким дочерям пришлось беспомощно наблюдать, как меня арестовывают за преступление, которого я не совершал, и к тому времени, как я вернулся домой из тюрьмы, у младшей уже выпал первый зуб, а старшая не могла даже смотреть на мою фотографию. Даже сейчас, спустя годы, они до сих пор плачут, когда вспоминают об этом", - говорит Уильямс.
"Самое страшное, что то, что случилось со мной, могло случиться с каждым".
Первый важный шаг
Сайт American Civil Liberties Union (ACLU)Компания Williams, представляющая интересы Уильямса в судебном процессе, назвала это урегулирование достойным внимания шагом к повышению ответственности и контроля за технологией распознавания лиц.
Организация пояснила, что новые правила являются одними из самых строгих в стране и должны послужить примером для других правоохранительных органов.
Урегулирование также включает выплату $1 000 Уильямсу, который провел 30 часов в тюрьме и испытал эмоциональные страдания в результате неправомерного ареста.
Исследования постоянно показывают, что эти системы чаще ошибаются в идентификации цветных людей, особенно чернокожих, чем белых.
Эта предвзятость может быть обусловлена такими факторами, как недостаточное разнообразие наборов данных, используемых для обучения алгоритмов распознавания лиц, а также ограничениями, присущими данной технологии.
Полицейская деятельность с использованием ИИ становится все более эффективной, включая наблюдение с помощью ИИ в общественных местах, например, развертывание живых Камеры распознавания лиц в полиции Великобритании.
Полицейское управление Детройта заключило мировое соглашение по делу Robert Julian-Borchak Williams Дело - это только первый шаг.
Всестороннее регулирование и надзор за технологией распознавания лиц на федеральном уровне необходимы для того, чтобы обеспечить ответственное использование этих систем, особенно когда риск предвзятости максимален.
