Politiet i Detroit har indgået forlig i en retssag anlagt af Robert Julian-Borchak Williamsen sort mand, som blev uretmæssigt anholdt i januar 2020 på baggrund af et fejlbehæftet ansigtsgenkendelsesmatch.
Som en del af ForligDetroit Police Department er gået med til at implementere nye politikker for brugen af ansigtsgenkendelsesteknologi.
De omfatter:
- Forbud mod anholdelser udelukkende baseret på ansigtsgenkendelsesmatch
- Kræver yderligere beviser ud over ansigtsgenkendelse, før man inkluderer en mistænkt i en fotokonfrontation
- Obligatorisk uddannelse af betjente i begrænsninger og risici ved ansigtsgenkendelsesteknologi
- Gennemførelse af en revision af alle sager siden 2017, hvor ansigtsgenkendelse blev brugt til at opnå en arrestordre
Hændelsen begyndte i oktober 2018, da en mand stjal fem ure fra en Shinola-butik i Detroit.
Efterforskerne brugte et stillbillede fra butikkens overvågningsvideo. De kørte det gennem Detroit Politis ansigtsgenkendelsessystem, som fejlagtigt matchede den mistænkte med Williams' kørekortfoto.
På trods af de klare forskelle mellem Williams og den mistænkte, gik efterforskerne videre med anholdelsen.
Under afhøringen holdt Williams overvågningsbilledet op mod sit ansigt og spurgte betjentene: "Synes I, at alle sorte mænd ser ens ud?"
Betjentene erkendte til sidst fejlen, og en af dem indrømmede: "Computeren tog nok fejl."
Williams tilbragte omkring 30 timer i fængsel og har siden kæmpet med det følelsesmæssige traume, som oplevelsen har medført.
"Min kone og mine små døtre måtte hjælpeløst se til, mens jeg blev arresteret for en forbrydelse, jeg ikke havde begået, og da jeg kom hjem fra fængslet, var jeg allerede gået glip af, at min yngste tabte sin første tand, og min ældste kunne ikke engang holde ud at se på mit billede. Selv nu, mange år senere, får de stadig tårer i øjnene, når de tænker på det," siger Williams.
"Det mest skræmmende er, at det, der skete for mig, kunne være sket for hvem som helst."
Et vigtigt første skridt
Den American Civil Liberties Union (ACLU)som repræsenterede Williams i retssagen, hyldede forliget som et bemærkelsesværdigt skridt i retning af større ansvarlighed og tilsyn med ansigtsgenkendelsesteknologi.
Organisationen forklarede, at de nye politikker er blandt de strengeste i landet og bør tjene som model for andre retshåndhævende myndigheder.
Forliget omfatter også en betaling på $1.000 til Williams, som tilbragte 30 timer i fængsel og led følelsesmæssig overlast som følge af den uretmæssige anholdelse.
Studier har konsekvent vist, at disse systemer er mere tilbøjelige til at fejlidentificere farvede mennesker, især sorte, end hvide mennesker.
Denne skævhed kan tilskrives faktorer som den manglende mangfoldighed i de datasæt, der bruges til at træne ansigtsgenkendelsesalgoritmer, og teknologiens iboende begrænsninger.
AI-drevet politiarbejde er stigende, herunder AI-overvågning i det offentlige rum, som f.eks. udrulning af live Ansigtsgenkendelseskameraer hos britisk politi.
Forliget indgået af Detroit Police Department i sagen Robert Julian-Borchak Williams sagen er kun et første skridt.
Omfattende regulering og tilsyn med ansigtsgenkendelsesteknologi på føderalt niveau er nødvendigt for at sikre, at disse systemer bruges ansvarligt, især når risikoen for bias er størst.
