I sidste uge brugte Metropolitan Police live ansigtsgenkendelseskameraer i det sydlige London til at hjælpe med at anholde 17 personer.
Anholdelserne fandt sted under specifikke operationer den 19. og 21. marts i Croydon og den 21. marts i Tooting.
Blandt de anholdte var en 23-årig mand, som blev taget i at besidde to patroner med blank ammunition. Det førte til, at politiet beslaglagde ammunition, stjålne mobiltelefoner og cannabis fra ejendomme, der var knyttet til denne person. Ansigtsgenkendelsessystemet var målrettet ham på grund af en udestående arrestordre på ham.
I øjeblikket er teknologien designet til at identificere personer på en "skræddersyet overvågningsliste", som omfatter personer med udestående arrestordrer. Metropolitan Police siger, at denne teknologi gør dem i stand til at udføre "præcisionspolitiarbejde".
Dette følger et tidligere tal på 42 anholdelser foretaget i februar ved hjælp af samme teknologi, selvom det stadig er uklart, hvor mange af de anholdte, der er blevet sigtet, ifølge forespørgsler foretaget af BBC Nyheder.
Anholdelserne dækkede et bredt spektrum af lovovertrædelser, herunder seksualforbrydelser, overfald, tyveri, bedrageri, indbrud, racebetinget chikane og overtrædelse af påbud om antisocial adfærd (ASBO).
Efter operationen sagde politiet, at de tilbød lokalsamfundene "information og beroligelse" om deres handlinger.
🧵| Live ansigtsgenkendelsesteknologi er et præcist værktøj til bekæmpelse af kriminalitet i samfundet. Anført af intelligens placerer vi vores indsats, hvor den sandsynligvis vil have størst effekt. pic.twitter.com/N5bKwzAEI1
- Metropolitan Police (@metpoliceuk) 5. april 2023
Ansigtsgenkendelse i politiarbejde er kontroversielt
Sidste år ønskede medlemmer af det britiske over- og underhus, at politiet skulle revurderer teknologi til live ansigtsgenkendelse efter at politiministeren antydede, at politistyrkerne ville få adgang til en database med 45 millioner pasbilleder.
Michael Birtwistle fra Ada Lovelace-instituttet var enige i deres skepsis: "Nøjagtigheden og det videnskabelige grundlag for ansigtsgenkendelsesteknologier er meget omstridt, og deres lovlighed er usikker."
Interesseorganisation for borgerrettigheder Big Brother Watch fremhævede også at 89% af det britiske politis ansigtsgenkendelsesalarmer fejler.
Lindsey Chiswick, efterretningsdirektør i Metropolitan Police, forsøgte at fjerne bekymringen for privatlivets fred. Hun sagde til BBC: "Vi opbevarer ikke dine data. Hvis der ikke er noget match, bliver dine data straks og automatisk slettet på få sekunder." Chiswick hævdede også, at teknologien er blevet "uafhængigt testet" for pålidelighed og bias.
Andre bestrider det. For eksempel udtrykte Madeleine Stone fra Big Brother Watch bekymring over AI-overvågning og kaldte det "orwellsk".
Stone fortsatte: "Alle vil have farlige kriminelle væk fra gaden, men det er ikke løsningen at dække over revnerne i et knirkende politisystem med påtrængende og orwellsk overvågningsteknologi. I stedet for aktivt at forfølge folk, der udgør en risiko for offentligheden, stoler politifolk på tilfældigheder og håber, at eftersøgte personer tilfældigvis går foran et politikamera."
🚨Live ansigtsgenkendelsesalarm🚨
Politiet scanner ansigterne på et stort antal mennesker i #Catford ved hjælp af invasiv og fejlbehæftet ansigtsgenkendelsesteknologi.
Der er ikke plads til denne orwellske teknologi i britisk politiarbejde. #Stop ansigtsgenkendelse pic.twitter.com/JTcLYRoW7G
- Big Brother Watch (@BigBrotherWatch) 26. marts 2024
Big Brother Watch slog også alarm om en ny operation i Catford, som fandt sted i går (26/03).
Sådan bruger det britiske politi AI-ansigtsgenkendelse
Den britiske politistyrke begyndte at teste ansigtsgenkendelsesteknologier i 2018 og indsatte kameraudstyrede varevogne til at optage billeder fra offentlige steder.
En nylig Anmodning om informationsfrihed rettet mod Metropolitan Police Service (MPS) søgte afklaring på, om AI bruges til at screene personer automatisk, og hvordan disse data behandles.
MPS afslørede brugen af AI-teknologier som Live Facial Recognition (LFR) og Retrospective Facial Recognition (RFR) inden for specifikke operationer.
MPS nægtede dog at svare på størstedelen af forespørgslen med henvisning til undtagelser under Freedom of Information Act 2000 relateret til "national sikkerhed", "retshåndhævelse" og "beskyttelse af sikkerhedsorganer".
Specifikt argumenterede MPS for, at afsløring af detaljer om den skjulte brug af ansigtsgenkendelse kunne kompromittere retshåndhævelsestaktikken.
I politiets svar står der: "Bekræftelse eller afvisning af, at enhver information om en mulig skjult praksis med ansigtsgenkendelse ville vise kriminelle, hvad MPS' kapacitet, taktiske evner og muligheder er, så de kan målrette specifikke områder i Storbritannien for at udføre/gennemføre deres kriminelle/terroristiske aktiviteter."
Erfaringer fra fortiden
Mens Forudsigende politiarbejde var designet til at gøre lokalsamfundene mere sikre, har det ført til nogle bekymrende resultater, herunder uretmæssig anholdelse af flere personer.
Det er ikke bare isolerede hændelser, men snarere et mønster, der afslører en kritisk fejl ved at stole for meget på AI i politiarbejdet.
Robert McDaniel i Chicago, selv om han ikke havde nogen voldelig fortid, blev angrebet af politiet som en potentiel trussel, blot fordi en algoritme har placeret ham på en liste.
Hans historie er ikke enestående. Overalt i USA har der været tilfælde, hvor folk er blevet uretmæssigt anklaget og arresteret på baggrund af fejlagtige ansigtsgenkendelsesmatch.
Nijeer Parks' historie er et grelt eksempel. Anklaget for forbrydelser, han ikke havde noget med at gøre, stod Parks over for fængselsstraf og en stor advokatregning - alt sammen på grund af et forkert match med ansigtsgenkendelsesteknologien.
Teknologi til ansigtsgenkendelse er blevet afsløret som unøjagtig for personer med mørkere hudfarve, især sorte kvinder. Mens ansigtsgenkendelse af hvide ansigter kan være nøjagtig i over 90% af tilfældene, kan den være lige så helt ned til 35% for sorte ansigter.
Som det ser ud nu, er det marginaliserede grupper, der står til at tabe mest på unøjagtige algoritmiske politistrategier.
Uretmæssige anholdelser er ikke kun foruroligende for de direkte involverede; de kaster også en lang skygge over de berørte samfund.
Når folk bliver anholdt på baggrund af forudsigelser i stedet for konkrete handlinger, ryster det selve fundamentet for tilliden mellem de retshåndhævende myndigheder og offentligheden.
Faktisk er offentlighedens tillid til politiet helt i bund i både Storbritannien og USA. AI truer med at udhule den yderligere, hvis den forvaltes dårligt.
