Polismyndigheten i Detroit har förlikats i en stämningsansökan som lämnats in av Robert Julian-Borchak Williams, en svart man som felaktigt greps i januari 2020 baserat på en felaktig ansiktsigenkänning.
Som en del av förlikninghar Detroits polismyndighet gått med på att införa nya riktlinjer för användningen av ansiktsigenkänningsteknik.
De inkluderar:
- Förbud mot gripanden som enbart baseras på ansiktsigenkänning
- Krav på ytterligare bevis utöver ansiktsigenkänning innan en misstänkt inkluderas i en fotokonfrontation
- Obligatorisk utbildning av poliser om begränsningar och risker med teknik för ansiktsigenkänning
- Genomföra en granskning av alla fall sedan 2017 där ansiktsigenkänning använts för att erhålla en arresteringsorder
Händelsen började i oktober 2018 när en man snattade fem klockor från en Shinola-butik i Detroit.
Utredarna använde en stillbild från butikens övervakningsvideo. De körde den genom Detroit Police Department's ansiktsigenkänningssystem, vilket felaktigt matchade den misstänkte till Williams körkortsfoto.
Trots de tydliga skillnaderna mellan Williams och den misstänkte, utredare fortsatte med gripandet.
Under förhöret höll Williams övervakningsbilden intill sitt ansikte och frågade kriminalpoliserna: "Tycker ni att alla svarta män ser likadana ut?"
Poliserna erkände så småningom misstaget, och en av dem erkände: "Jag antar att datorn gjorde fel."
Williams tillbringade cirka 30 timmar i fängelse och har sedan dess kämpat med det känslomässiga trauma som upplevelsen innebar.
"Min fru och mina små döttrar tvingades hjälplöst se på när jag greps för ett brott jag inte begått och när jag kom hem från fängelset hade jag redan missat att min yngsta tappade sin första tand och min äldsta kunde inte ens stå ut med att titta på mitt foto. Än idag, flera år senare, blir de fortfarande tårögda när de tänker på det", säger Williams.
"Det mest skrämmande är att det som hände mig kunde ha hänt vem som helst."
Ett viktigt första steg
Den American Civil Liberties Union (ACLU)som företrädde Williams i stämningen, hyllade förlikningen som ett anmärkningsvärt steg mot större ansvarighet och tillsyn när det gäller teknik för ansiktsigenkänning.
Organisationen förklarade att de nya riktlinjerna är bland de strängaste i landet och att de bör tjäna som modell för andra brottsbekämpande myndigheter.
Förlikningen omfattar också en betalning på $1.000 till Williams, som tillbringade 30 timmar i fängelse och led av känslomässigt lidande till följd av det felaktiga gripandet.
Studier har konsekvent visat att dessa system är mer benägna att felidentifiera mörkhyade personer, särskilt svarta personer, än vita personer.
Denna skevhet kan hänföras till faktorer som bristen på mångfald i de dataset som används för att träna algoritmer för ansiktsigenkänning och teknikens inneboende begränsningar.
AI-driven polisverksamhet ökar, inklusive AI-övervakning i offentliga utrymmen, till exempel utplacering av live kameror för ansiktsigenkänning hos brittisk polis.
Den förlikning som Detroit Police Department nådde i fallet med Robert Julian-Borchak Williams är bara ett första steg.
Omfattande reglering och tillsyn av ansiktsigenkänningsteknik på federal nivå är nödvändig för att säkerställa att dessa system används på ett ansvarsfullt sätt, särskilt när risken för partiskhet är som störst.
