Detroit-politiet har inngått forlik i et søksmål anlagt av Robert Julian-Borchak Williams, en svart mann som ble urettmessig arrestert i januar 2020 basert på en feilaktig ansiktsgjenkjenning.
Som en del av oppgjørhar politiet i Detroit gått med på å innføre nye retningslinjer for bruk av ansiktsgjenkjenningsteknologi.
De inkluderer:
- Forbud mot arrestasjoner utelukkende basert på ansiktsgjenkjenning
- Krever ytterligere bevis utover ansiktsgjenkjenning før en mistenkt inkluderes i en fotokonfrontasjon
- Obligatorisk opplæring av polititjenestemenn om begrensninger og risikoer ved ansiktsgjenkjenningsteknologi
- Gjennomføre en revisjon av alle saker siden 2017 der ansiktsgjenkjenning ble brukt til å innhente en arrestordre
Hendelsen begynte i oktober 2018 da en mann stjal fem klokker fra en Shinola-butikk i Detroit.
Etterforskerne brukte et stillbilde fra butikkens overvåkningsvideo. De kjørte det gjennom Detroit-politiets ansiktsgjenkjenningssystem, som feilaktig matchet den mistenkte med Williams' førerkortbilde.
Til tross for de klare forskjellene mellom Williams og den mistenkte, fortsatte etterforskerne med pågripelsen.
Under avhøret holdt Williams overvåkningsbildet ved siden av ansiktet sitt og spurte etterforskerne: "Tror dere at alle svarte menn ser like ut?"
Etterforskerne erkjente til slutt feilen, og en av dem innrømmet: "Jeg antar at datamaskinen tok feil."
Williams tilbrakte rundt 30 timer i fengsel og har siden slitt med de følelsesmessige traumene etter opplevelsen.
"Min kone og mine små døtre måtte hjelpeløst se på at jeg ble arrestert for en forbrytelse jeg ikke hadde begått, og da jeg kom hjem fra fengselet, hadde jeg allerede gått glipp av at min yngste mistet sin første tann, og min eldste orket ikke engang å se på bildet av meg. Selv nå, mange år senere, gråter de fortsatt når de tenker på det," sier Williams.
"Det skumleste er at det som skjedde med meg, kunne ha skjedd med hvem som helst."
Et viktig første skritt
Den American Civil Liberties Union (ACLU)Williams, som representerte Williams i søksmålet, hyllet forliket som et bemerkelsesverdig skritt i retning av større ansvarlighet og tilsyn med ansiktsgjenkjenningsteknologi.
Organisasjonen forklarte at de nye retningslinjene er blant de strengeste i landet, og at de bør tjene som en modell for andre politimyndigheter.
Forliket omfatter også en utbetaling på $1 000 til Williams, som tilbrakte 30 timer i fengsel og led følelsesmessig nød som følge av den urettmessige arrestasjonen.
Studier har konsekvent vist at disse systemene er mer tilbøyelige til å feilidentifisere fargede personer, særlig svarte, enn hvite.
Denne skjevheten kan tilskrives faktorer som mangelen på mangfold i datasettene som brukes til å trene opp algoritmer for ansiktsgjenkjenning, og teknologiens iboende begrensninger.
AI-drevet politiarbeid øker, inkludert AI-overvåkning i det offentlige rom, for eksempel utplassering av live ansiktsgjenkjenningskameraer hos britisk politi.
Forliket som Detroit-politiet inngikk i saken Robert Julian-Borchak Williams saken er bare et første skritt.
Omfattende regulering og tilsyn med ansiktsgjenkjenningsteknologi på føderalt nivå er nødvendig for å sikre at disse systemene brukes på en ansvarlig måte, særlig når risikoen for skjevheter er på sitt høyeste.
