На прошлой неделе в южной части Лондона столичная полиция использовала камеры распознавания лиц, чтобы помочь арестовать 17 человек.
Аресты были произведены в ходе специальных операций, проведенных 19 и 21 марта в Кройдоне и 21 марта в Тутинге.
Среди арестованных был 23-летний мужчина, которого поймали на хранении двух холостых патронов. В результате полиция изъяла боеприпасы, украденные мобильные телефоны и каннабис из имущества, связанного с этим человеком. Система распознавания лиц выбрала его из-за непогашенного ордера на арест.
В настоящее время технология предназначена для выявления лиц, включенных в "заказной список", в который входят люди с непогашенными ордерами на арест. Столичная полиция утверждает, что эта технология позволяет им осуществлять "точное полицейское управление".
Это произошло после того, как в феврале было произведено 42 ареста с использованием той же технологии, хотя пока неясно, скольким из арестованных были предъявлены обвинения, согласно запросам, сделанным BBC News.
Аресты охватывали широкий спектр правонарушений, включая сексуальные преступления, нападения, кражи, мошенничество, кражи со взломом, домогательства с отягчающими расовыми признаками и нарушения приказов об антисоциальном поведении (ASBO).
После операции полиция заявила, что предложила населению "информацию и заверения" относительно своих действий.
🧵| Технология распознавания лиц в реальном времени - это точный инструмент борьбы с преступностью. Опираясь на данные разведки, мы направляем наши усилия туда, где они принесут наибольший эффект. pic.twitter.com/N5bKwzAEI1
- Столичная полиция (@metpoliceuk) 5 апреля 2023 года
Распознавание лиц в полицейской деятельности вызывает споры
В прошлом году члены Палаты лордов и Общин Великобритании потребовали от полиции пересмотр технологии распознавания лиц в реальном времени после того, как министр по делам полиции намекнул, что полицейские силы получат доступ к базе данных, содержащей 45 миллионов изображений паспортов.
Майкл Биртвистл из Институт Ады Лавлейс согласился с их скептицизмом: "Точность и научная основа технологий распознавания лиц весьма спорна, а их законность неясна".
Группа по защите гражданских прав Big Brother Watch также выделил что 89% оповещений о распознавании лиц в полиции Великобритании не работают.
Линдси Чизвик, директор по разведке столичной полиции, попыталась развеять опасения по поводу конфиденциальности. Она сказала BBC: "Мы не храним ваши данные. Если совпадений нет, ваши данные немедленно и автоматически удаляются за считанные секунды". В Chiswick также утверждают, что технология была "независимо проверена" на надежность и необъективность.
Другие оспаривают это. Например, Мадлен Стоун из Big Brother Watch выразила опасения по поводу слежки с помощью ИИ, назвав ее "оруэлловской".
Стоун продолжил: "Все хотят убрать с улиц опасных преступников, но замазывать трещины в скрипучей полицейской системе навязчивыми и оруэлловскими технологиями наблюдения - не выход. Вместо того чтобы активно преследовать людей, представляющих опасность для общества, полицейские полагаются на случай и надеются, что разыскиваемые люди случайно попадут в поле зрения полицейской камеры".
🚨 Оповещение о распознавании лиц в режиме реального времени🚨
Полиция сканирует лица огромного количества людей в #Catford используя инвазивную и несовершенную технологию распознавания лиц.
Этой оруэлловской технологии нет места в британской полиции. #StopFacialRecognition pic.twitter.com/JTcLYRoW7G
- Big Brother Watch (@BigBrotherWatch) 26 марта 2024 года
Big Brother Watch также поднял тревогу по поводу новой операции в Кэтфорде, проведенной вчера (26/03).
Как полиция Великобритании использует искусственный интеллект для распознавания лиц
Полиция Великобритании начала тестировать технологии распознавания лиц в 2018 году, развернув фургоны, оборудованные камерами, для съемки в общественных местах.
Недавно Запрос о свободе информации В этом документе, направленном в Столичную полицейскую службу (MPS), содержится просьба разъяснить, используется ли искусственный интеллект для автоматической проверки людей и как обрабатываются эти данные.
MPS раскрыла информацию об использовании технологий искусственного интеллекта, таких как распознавание лиц в реальном времени (LFR) и ретроспективное распознавание лиц (RFR) в рамках конкретных операций.
Однако МПС отказалось отвечать на основную часть запроса, сославшись на исключения из Закона о свободе информации 2000 года, связанные с "национальной безопасностью", "правоохранительной деятельностью" и "защитой органов безопасности".
В частности, MPS утверждала, что разглашение подробностей о тайном использовании системы распознавания лиц может поставить под угрозу тактику правоохранительных органов.
В ответе полиции говорится следующее: "Подтверждение или опровержение того, что любая информация, касающаяся возможной тайной практики распознавания лиц, покажет преступникам потенциал, тактические способности и возможности МПС, что позволит им выбрать конкретные районы Великобритании для проведения/осуществления своей преступной/террористической деятельности".
Уроки прошлого
В то время как предиктивная полиция Созданная для того, чтобы сделать общество более безопасным, она привела к некоторым тревожным результатам, включая неправомерный арест нескольких человек.
Это не просто отдельные инциденты, а скорее закономерность, которая показывает критический недостаток слишком сильной опоры на искусственный интеллект в работе полиции.
Роберт МакДэниел в Чикаго, несмотря на отсутствие истории насилия, стал объектом нападения полиции как потенциальную угрозу только потому, что алгоритм поместил его в список.
Его история не уникальна. По всему США были случаи, когда людей ошибочно обвиняли и арестовывали на основании ошибочных совпадений в распознавании лиц.
История Ниджира Паркса является ярким примером. Парксу, обвиненному в преступлениях, к которым он не имел никакого отношения, грозило тюремное заключение и огромный судебный счет - и все это из-за неправильного совпадения технологии распознавания лиц.
Технология распознавания лиц оказалась неточной для темнокожих людей, особенно для чернокожих женщин. В то время как распознавание лиц белых людей может быть точным в более чем 90% случаев, оно может быть столь же недорого 35% для черных лиц.
По имеющимся данным, больше всего от неточных алгоритмических стратегий полицейской работы могут пострадать маргинальные группы.
Неправомерные аресты не только огорчают тех, кто непосредственно причастен к ним, но и бросают длинную тень на сообщества, которых они касаются.
Когда людей арестовывают на основании прогнозов, а не конкретных действий, это подрывает саму основу доверия между правоохранительными органами и обществом.
Действительно, доверие населения к полиции находится на самом дне как в Великобритании, так и в США. При плохом управлении искусственный интеллект грозит еще больше подорвать это доверие.