De politie van Detroit heeft een schikking getroffen in een rechtszaak aangespannen door Robert Julian-Borchak Williams, een zwarte man die in januari 2020 onterecht werd gearresteerd op basis van een gebrekkige gezichtsherkenning.
Als onderdeel van de schikkingDe politie van Detroit heeft ingestemd met de invoering van nieuw beleid voor het gebruik van gezichtsherkenningstechnologie.
Ze omvatten:
- Arrestaties uitsluitend op basis van gezichtsherkenning verbieden
- Aanvullend bewijs naast gezichtsherkenning vereisen voordat een verdachte wordt opgenomen in een fotolijnopstelling
- Training van agenten over de beperkingen en risico's van gezichtsherkenningstechnologie verplicht stellen
- Een audit uitvoeren van alle zaken sinds 2017 waarbij gezichtsherkenning werd gebruikt om een aanhoudingsbevel te verkrijgen
Het incident begon in oktober 2018 toen een man vijf horloges stal uit een Shinola-winkel in Detroit.
Onderzoekers gebruikten een stilstaand beeld van de bewakingsvideo van de winkel. Ze haalden het door het gezichtsherkenningssysteem van het Detroit Police Department en vergeleken de verdachte foutief met de foto van Williams rijbewijs.
Ondanks de duidelijke verschillen tussen Williams en de verdachte, gingen de rechercheurs over tot de arrestatie.
Tijdens het verhoor hield Williams de bewakingsfoto naast zijn gezicht en vroeg aan de rechercheurs: "Denken jullie dat alle zwarte mannen er hetzelfde uitzien?"
De rechercheurs erkenden uiteindelijk de fout, waarbij er één toegaf: "Ik denk dat de computer het fout had."
Williams bracht ongeveer 30 uur door in de gevangenis en worstelt sindsdien met het emotionele trauma van deze ervaring.
"Mijn vrouw en jonge dochters moesten hulpeloos toezien hoe ik gearresteerd werd voor een misdaad die ik niet begaan had en tegen de tijd dat ik thuiskwam uit de gevangenis had ik al gemist dat mijn jongste haar eerste tandje verloor en mijn oudste kon het niet eens verdragen om naar mijn foto te kijken. Zelfs nu, jaren later, krijgen ze nog tranen in hun ogen als ze eraan denken," zei Williams.
"Het engste is dat wat mij is overkomen iedereen had kunnen overkomen."
Een belangrijke eerste stap
De American Civil Liberties Union (ACLU)die Williams vertegenwoordigt in de rechtszaak, verwelkomde de schikking als een opmerkelijke stap in de richting van meer verantwoording en toezicht op gezichtsherkenningstechnologie.
De organisatie legde uit dat het nieuwe beleid tot de strengste van het land behoort en als voorbeeld zou moeten dienen voor andere wetshandhavingsinstanties.
De schikking omvat ook een betaling van $1,000 aan Williams, die 30 uur in de gevangenis doorbracht en emotioneel leed als gevolg van de onterechte arrestatie.
Studies hebben consistent aangetoond dat deze systemen een grotere kans hebben om gekleurde mensen, vooral zwarte mensen, verkeerd te identificeren dan blanke mensen.
Deze vertekening kan worden toegeschreven aan factoren zoals het gebrek aan diversiteit in de datasets die worden gebruikt om gezichtsherkenningsalgoritmen te trainen en de inherente beperkingen van de technologie.
Het AI-gestuurde politieoptreden neemt toe, inclusief AI-bewaking in openbare ruimten, zoals de inzet van live gezichtsherkenningscamera's door Britse politie.
De schikking die het politiebureau van Detroit heeft getroffen in de Robert Julian-Borchak Williams zaak is slechts een eerste stap.
Uitgebreide regelgeving en toezicht op gezichtsherkenningstechnologie op federaal niveau zijn nodig om ervoor te zorgen dat deze systemen verantwoord worden gebruikt, vooral wanneer het risico op vertekening het grootst is.
