I forrige uke brukte Metropolitan Police live-kameraer for ansiktsgjenkjenning i Sør-London til å pågripe 17 personer.
Arrestasjonene skjedde i forbindelse med spesifikke aksjoner som ble gjennomført 19. og 21. mars i Croydon og 21. mars i Tooting.
Blant de pågrepne var en 23 år gammel mann som ble tatt med to tomhylser. Dette førte til at politiet beslagla ammunisjon, stjålne mobiltelefoner og cannabis fra eiendommer knyttet til denne personen. Ansiktsgjenkjenningssystemet var rettet mot ham på grunn av en utestående arrestordre.
For øyeblikket er teknologien utviklet for å identifisere personer som er oppført på en "skreddersydd overvåkningsliste", som inkluderer personer med utestående arrestordrer. Metropolitan Police sier at denne teknologien gjør dem i stand til å utføre "presisjonsarbeid".
Dette følger etter en tidligere opptelling på 42 arrestasjoner som ble gjort i februar ved hjelp av samme teknologi, selv om det fortsatt er uklart hvor mange av de arresterte som er blitt siktet, i henhold til henvendelser fra BBC Nyheter.
Arrestasjonene omfattet et bredt spekter av lovbrudd, blant annet seksuallovbrudd, overfall, tyveri, bedrageri, innbrudd, trakassering på grunn av rasisme og brudd på pålegg om antisosial atferd (ASBO).
Etter aksjonen sa politiet at de tilbød lokalsamfunnene "informasjon og beroligelse" om sine handlinger.
🧵| Teknologi for direkte ansiktsgjenkjenning er et presist verktøy for å bekjempe kriminalitet i lokalsamfunnet. Vi setter inn innsatsen vår der det er mest sannsynlig at den har størst effekt. pic.twitter.com/N5bKwzAEI1
- Metropolitan Police (@metpoliceuk) 5. april 2023
Ansiktsgjenkjenning i politiet er kontroversielt
I fjor ønsket medlemmer av det britiske overhuset og underhuset at politiet skulle revurderer teknologien for direkte ansiktsgjenkjenning etter at politiministeren antydet at politiet vil få tilgang til en database med 45 millioner passbilder.
Michael Birtwistle fra Ada Lovelace-instituttet "Nøyaktigheten og det vitenskapelige grunnlaget for ansiktsgjenkjenningsteknologiene er svært omstridt, og lovligheten av dem er usikker."
Interesseorganisasjon for borgerrettigheter Big Brother Watch fremhevet også at 89% av det britiske politiets ansiktsgjenkjenningsvarsler mislykkes.
Lindsey Chiswick, etterretningsdirektør i Metropolitan Police, forsøkte å fjerne bekymringene for personvernet. Hun sa til BBC: "Vi oppbevarer ikke dataene dine. Hvis det ikke er noen match, blir dataene dine umiddelbart og automatisk slettet i løpet av sekunder." Chiswick hevdet også at teknologien har blitt "uavhengig testet" for pålitelighet og skjevhet.
Andre bestrider dette. Madeleine Stone fra Big Brother Watch uttrykte for eksempel bekymring for AI-overvåking, og kalte det "orwellsk".
Stone fortsatte: "Alle ønsker farlige kriminelle vekk fra gatene, men løsningen er ikke å dekke over sprekkene i et knirkende politisystem med påtrengende og orwellsk overvåkningsteknologi. I stedet for aktivt å forfølge personer som utgjør en risiko for offentligheten, stoler politibetjentene på tilfeldigheter og håper at ettersøkte personer tilfeldigvis går foran et politikamera."
🚨Live ansiktsgjenkjenningsvarsel🚨
Politiet skanner ansiktene til et stort antall mennesker i #Catford ved hjelp av invasiv og mangelfull ansiktsgjenkjenningsteknologi.
Det er ingen plass for denne orwellske teknologien i britisk politiarbeid. #StopFacialRecognition (ansiktsgjenkjenning) pic.twitter.com/JTcLYRoW7G
- Big Brother Watch (@BigBrotherWatch) 26. mars 2024
Big Brother Watch slo også alarm om en ny operasjon i Catford som fant sted i går (26/03).
Slik bruker britisk politi kunstig intelligens til ansiktsgjenkjenning
Det britiske politiet begynte å teste ansiktsgjenkjenningsteknologi i 2018, og tok i bruk kamerautstyrte varebiler for å ta bilder fra offentlige steder.
En nylig Forespørsel om informasjonsfrihet rettet mot Metropolitan Police Service (MPS), søkte avklaring om hvorvidt AI brukes til å screene enkeltpersoner automatisk, og hvordan disse dataene behandles.
MPS avslørte at de bruker AI-teknologier som Live Facial Recognition (LFR) og Retrospective Facial Recognition (RFR) innenfor spesifikke operasjoner.
MPS nektet imidlertid å svare på hoveddelen av henvendelsen, med henvisning til unntak under Freedom of Information Act 2000 knyttet til "nasjonal sikkerhet", "rettshåndhevelse" og "beskyttelse av sikkerhetsorganer".
MPS argumenterte spesielt for at det å avsløre detaljer om den hemmelige bruken av ansiktsgjenkjenning kunne kompromittere politiets taktikk.
I politiets svar heter det "Bekreftelse eller benektelse av at informasjon om eventuell skjult bruk av ansiktsgjenkjenning vil vise kriminelle hvilken kapasitet, taktiske evner og muligheter MPS har, slik at de kan målrette sine kriminelle/terroristiske aktiviteter mot bestemte områder i Storbritannia."
Lærdom fra fortiden
Mens forutseende politiarbeid var utformet for å gjøre lokalsamfunnene tryggere, har det ført til noen urovekkende resultater, blant annet urettmessige arrestasjoner av flere personer.
Dette er ikke bare isolerte hendelser, men snarere et mønster som avslører en kritisk feil ved å stole for mye på kunstig intelligens i politiarbeidet.
Robert McDaniel i Chicago, til tross for at han ikke hadde noen voldelig fortid, ble angrepet av politiet som en potensiell trussel bare fordi en algoritme plasserte ham på en liste.
Historien hans er ikke unik. Over hele USA har det vært tilfeller der folk har blitt feilaktig anklaget og arrestert på grunnlag av feilaktig ansiktsgjenkjenning.
Nijeer Parks' historie er et grelt eksempel. Parks ble anklaget for forbrytelser han ikke hadde noe med å gjøre, og han risikerte fengselsstraff og en saftig advokatregning - alt på grunn av en feilaktig match med ansiktsgjenkjenningsteknologien.
Teknologi for ansiktsgjenkjenning har blitt avslørt som unøyaktig for personer med mørkere hudfarge, særlig svarte kvinner. Mens ansiktsgjenkjenning for hvite ansikter kan være nøyaktig i over 90% av tilfellene, kan den være like så lavt som 35% for svarte flater.
Slik det ser ut i dag, er det marginaliserte grupper som taper mest på unøyaktige algoritmiske politistrategier.
Urettmessige arrestasjoner er ikke bare belastende for dem som er direkte involvert, de kaster også lange skygger over lokalsamfunnene som rammes.
Når folk blir arrestert på grunnlag av spådommer i stedet for konkrete handlinger, rokker det ved selve grunnlaget for tilliten mellom politiet og publikum.
Både i Storbritannia og USA er tilliten til politiet på et bunnivå. Kunstig intelligens truer med å svekke denne tilliten ytterligere hvis den håndteres dårlig.
