17 человек в Лондоне арестованы после операции по распознаванию лиц с помощью искусственного интеллекта

26 марта 2024 года

На прошлой неделе в южной части Лондона столичная полиция использовала камеры распознавания лиц, чтобы помочь арестовать 17 человек.

Аресты были произведены в ходе специальных операций, проведенных 19 и 21 марта в Кройдоне и 21 марта в Тутинге. 

Среди арестованных был 23-летний мужчина, которого поймали на хранении двух холостых патронов. В результате полиция изъяла боеприпасы, украденные мобильные телефоны и каннабис из имущества, связанного с этим человеком. Система распознавания лиц выбрала его из-за непогашенного ордера на арест. 

В настоящее время технология предназначена для выявления лиц, включенных в "заказной список", в который входят люди с непогашенными ордерами на арест. Столичная полиция утверждает, что эта технология позволяет им осуществлять "точное полицейское управление".

Это произошло после того, как в феврале было произведено 42 ареста с использованием той же технологии, хотя пока неясно, скольким из арестованных были предъявлены обвинения, согласно запросам, сделанным BBC News.

Аресты охватывали широкий спектр правонарушений, включая сексуальные преступления, нападения, кражи, мошенничество, кражи со взломом, домогательства с отягчающими расовыми признаками и нарушения приказов об антисоциальном поведении (ASBO).

После операции полиция заявила, что предложила населению "информацию и заверения" относительно своих действий.

Распознавание лиц в полицейской деятельности вызывает споры

В прошлом году члены Палаты лордов и Общин Великобритании потребовали от полиции пересмотр технологии распознавания лиц в реальном времени после того, как министр по делам полиции намекнул, что полицейские силы получат доступ к базе данных, содержащей 45 миллионов изображений паспортов.

Майкл Биртвистл из Институт Ады Лавлейс согласился с их скептицизмом: "Точность и научная основа технологий распознавания лиц весьма спорна, а их законность неясна".

Группа по защите гражданских прав Big Brother Watch также выделил что 89% оповещений о распознавании лиц в полиции Великобритании не работают.

Линдси Чизвик, директор по разведке столичной полиции, попыталась развеять опасения по поводу конфиденциальности. Она сказала BBC: "Мы не храним ваши данные. Если совпадений нет, ваши данные немедленно и автоматически удаляются за считанные секунды". В Chiswick также утверждают, что технология была "независимо проверена" на надежность и необъективность. 

Другие оспаривают это. Например, Мадлен Стоун из Big Brother Watch выразила опасения по поводу слежки с помощью ИИ, назвав ее "оруэлловской". 

Стоун продолжил: "Все хотят убрать с улиц опасных преступников, но замазывать трещины в скрипучей полицейской системе навязчивыми и оруэлловскими технологиями наблюдения - не выход. Вместо того чтобы активно преследовать людей, представляющих опасность для общества, полицейские полагаются на случай и надеются, что разыскиваемые люди случайно попадут в поле зрения полицейской камеры".

Big Brother Watch также поднял тревогу по поводу новой операции в Кэтфорде, проведенной вчера (26/03).

Как полиция Великобритании использует искусственный интеллект для распознавания лиц

Полиция Великобритании начала тестировать технологии распознавания лиц в 2018 году, развернув фургоны, оборудованные камерами, для съемки в общественных местах.

Распознавание лиц
Пример фургона с функцией распознавания лиц на ранних испытаниях в центре Лондона. Источник: X

Недавно Запрос о свободе информации В этом документе, направленном в Столичную полицейскую службу (MPS), содержится просьба разъяснить, используется ли искусственный интеллект для автоматической проверки людей и как обрабатываются эти данные. 

MPS раскрыла информацию об использовании технологий искусственного интеллекта, таких как распознавание лиц в реальном времени (LFR) и ретроспективное распознавание лиц (RFR) в рамках конкретных операций.

Однако МПС отказалось отвечать на основную часть запроса, сославшись на исключения из Закона о свободе информации 2000 года, связанные с "национальной безопасностью", "правоохранительной деятельностью" и "защитой органов безопасности".

В частности, MPS утверждала, что разглашение подробностей о тайном использовании системы распознавания лиц может поставить под угрозу тактику правоохранительных органов.

В ответе полиции говорится следующее: "Подтверждение или опровержение того, что любая информация, касающаяся возможной тайной практики распознавания лиц, покажет преступникам потенциал, тактические способности и возможности МПС, что позволит им выбрать конкретные районы Великобритании для проведения/осуществления своей преступной/террористической деятельности".

Уроки прошлого

В то время как предиктивная полиция Созданная для того, чтобы сделать общество более безопасным, она привела к некоторым тревожным результатам, включая неправомерный арест нескольких человек. 

Это не просто отдельные инциденты, а скорее закономерность, которая показывает критический недостаток слишком сильной опоры на искусственный интеллект в работе полиции.

Роберт МакДэниел в Чикаго, несмотря на отсутствие истории насилия, стал объектом нападения полиции как потенциальную угрозу только потому, что алгоритм поместил его в список. 

Его история не уникальна. По всему США были случаи, когда людей ошибочно обвиняли и арестовывали на основании ошибочных совпадений в распознавании лиц. 

История Ниджира Паркса является ярким примером. Парксу, обвиненному в преступлениях, к которым он не имел никакого отношения, грозило тюремное заключение и огромный судебный счет - и все это из-за неправильного совпадения технологии распознавания лиц.

Технология распознавания лиц оказалась неточной для темнокожих людей, особенно для чернокожих женщин. В то время как распознавание лиц белых людей может быть точным в более чем 90% случаев, оно может быть столь же недорого 35% для черных лиц.

По имеющимся данным, больше всего от неточных алгоритмических стратегий полицейской работы могут пострадать маргинальные группы. 

Неправомерные аресты не только огорчают тех, кто непосредственно причастен к ним, но и бросают длинную тень на сообщества, которых они касаются. 

Когда людей арестовывают на основании прогнозов, а не конкретных действий, это подрывает саму основу доверия между правоохранительными органами и обществом. 

Действительно, доверие населения к полиции находится на самом дне как в Великобритании, так и в США. При плохом управлении искусственный интеллект грозит еще больше подорвать это доверие. 

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения