Förra veckan använde Metropolitan Police kameror för ansiktsigenkänning i södra London för att hjälpa till att gripa 17 personer.
Gripandena skedde under särskilda operationer som genomfördes den 19 och 21 mars i Croydon och den 21 mars i Tooting.
Bland de gripna fanns en 23-årig man som ertappades med att inneha två tomhylsor. Detta ledde till att polisen beslagtog ammunition, stulna mobiltelefoner och cannabis från egendom som var kopplad till den personen. Ansiktsigenkänningssystemet riktade in sig på honom på grund av en utestående arresteringsorder mot honom.
För närvarande är tekniken utformad för att identifiera individer som finns på en "skräddarsydd bevakningslista", som inkluderar personer med utestående arresteringsorder. Metropolitan Police säger att denna teknik gör det möjligt för dem att utföra "precisionspolisarbete".
Detta följer en tidigare siffra på 42 gripanden som gjordes i februari med samma teknik, men det är fortfarande oklart hur många av de gripna som har åtalats, enligt förfrågningar gjorda av BBC Nyheter.
Arresteringarna omfattade ett brett spektrum av brott, inklusive sexualbrott, misshandel, stöld, bedrägeri, inbrott, trakasserier på grund av rasism och brott mot ASBO (anti-social behavior orders).
Efter insatsen meddelade polisen att de erbjudit allmänheten "information och försäkran" om sina åtgärder.
🧵| Live Facial Recognition tech är ett exakt verktyg för brottsbekämpning i samhället. Ledda av intelligens placerar vi vår ansträngning där det sannolikt kommer att ha störst effekt. pic.twitter.com/N5bKwzAEI1
- Metropolitan Police (@metpoliceuk) 5 april 2023
Ansiktsigenkänning i polisarbete är kontroversiellt
Förra året ville medlemmar av Storbritanniens överhus och underhus att polisen skulle omvärdera teknik för ansiktsigenkänning i direktsändning efter att polisministern antytt att polisstyrkorna skulle få tillgång till en databas med 45 miljoner passbilder.
Michael Birtwistle från Ada Lovelace-institutet instämde i deras skepsis: "Noggrannheten och den vetenskapliga grunden för teknik för ansiktsigenkänning är mycket omtvistad, och deras laglighet är osäker."
Intresseorganisation för medborgerliga rättigheter Big Brother Watch uppmärksammade också att 89% av den brittiska polisens ansiktsigenkänningsvarningar misslyckas.
Lindsey Chiswick, Metropolitan Police Intelligence Director, försökte skingra oron för integriteten. Hon sa till BBC: "Vi behåller inte dina uppgifter. Om det inte finns någon matchning raderas dina uppgifter omedelbart och automatiskt på några sekunder." Chiswick hävdade också att tekniken har "oberoende testats" för tillförlitlighet och partiskhet.
Andra ifrågasätter det. Till exempel uttryckte Madeleine Stone från Big Brother Watch oro över AI-övervakning och kallade den "Orwellian".
Stone fortsatte: "Alla vill ha bort farliga brottslingar från gatan, men att täcka över sprickorna i ett knarrande polissystem med påträngande och orwellsk övervakningsteknik är inte lösningen. I stället för att aktivt förfölja personer som utgör en risk för allmänheten förlitar sig poliserna på slumpen och hoppas att efterlysta personer råkar gå framför en poliskamera."
🚨Live ansiktsigenkänning varning🚨
Polisen skannar ansiktena på ett stort antal personer i #Catford med hjälp av invasiv och bristfällig teknik för ansiktsigenkänning.
Det finns ingen plats för denna Orwellska teknik i brittiskt polisarbete. #StopFacialRecognition pic.twitter.com/JTcLYRoW7G
- Big Brother Watch (@BigBrotherWatch) 26 mars 2024
Big Brother Watch slog också larm om en ny operation i Catford som ägde rum igår (26/03).
Hur polisen i Storbritannien använder ansiktsigenkänning med AI
Den brittiska poliskåren började testa teknik för ansiktsigenkänning 2018 och använde kamerautrustade skåpbilar för att ta bilder från offentliga platser.
En ny Begäran om informationsfrihet riktad mot Metropolitan Police Service (MPS) sökte förtydligande om huruvida AI används för att automatiskt screena individer och hur dessa uppgifter behandlas.
MPS avslöjade att man använder AI-teknik som Live Facial Recognition (LFR) och Retrospective Facial Recognition (RFR) inom specifika verksamheter.
MPS vägrade dock att svara på huvuddelen av förfrågan och hänvisade till undantag enligt Freedom of Information Act 2000 som rörde "nationell säkerhet", "brottsbekämpning" och "skydd av säkerhetsorgan".
MPS hävdade särskilt att avslöjande av detaljer om den hemliga användningen av ansiktsigenkänning skulle kunna äventyra brottsbekämpningstaktiken.
I polisens svar anges följande: "Bekräftelse eller förnekande av att all information som rör eventuell hemlig användning av ansiktsigenkänning skulle visa brottslingar vilken kapacitet, taktiska förmågor och möjligheter MPS har, vilket skulle göra det möjligt för dem att rikta in sig på specifika områden i Storbritannien för att genomföra/utöva sin brottsliga/terroristiska verksamhet."
Lärdomar från det förflutna
Medan förutseende polisarbete utformades för att göra samhällen säkrare, har det lett till några oroande resultat, inklusive felaktiga gripanden av flera individer.
Det här är inte bara isolerade incidenter utan snarare ett mönster som avslöjar en kritisk brist i att förlita sig alltför mycket på AI för polisarbete.
Robert McDaniel i Chicago, trots att han inte har något våldsamt förflutet, blev måltavla för polisen som ett potentiellt hot bara för att en algoritm placerat honom på en lista.
Hans historia är inte unik. Över hela USA har det förekommit fall där människor felaktigt anklagats och arresterats baserat på felaktiga ansiktsigenkänningsmatcher.
Nijeer Parks berättelse är ett tydligt exempel. Parks anklagades för brott som han inte hade något att göra med och fick fängelse och en hög advokaträkning - allt på grund av en felaktig matchning av ansiktsigenkänningstekniken.
Tekniken för ansiktsigenkänning har visat sig vara felaktig för mörkhyade personer, särskilt svarta kvinnor. Medan ansiktsigenkänning för vita ansikten kan vara korrekt i över 90% av fallen, kan det vara lika så lågt som 35% för svarta ansikten.
Enligt nuvarande uppgifter är det marginaliserade grupper som har mest att förlora på felaktiga algoritmiska polisstrategier.
Felaktiga gripanden är inte bara upprörande för dem som är direkt inblandade, utan kastar också en lång skugga över de samhällen som drabbas.
När människor arresteras på grundval av förutsägelser snarare än konkreta handlingar rubbas själva grunden för förtroendet mellan brottsbekämpande myndigheter och allmänheten.
Allmänhetens förtroende för polisen är faktiskt i botten både i Storbritannien och i USA. AI hotar att urholka detta ytterligare om det hanteras på ett dåligt sätt.
