Londons undergrundsbane anvendte AI-overvågningsteknologi i et årelangt forsøg.
Fra oktober 2022 til september 2023 testede Transport for London (TfL) 11 forskellige algoritmer på metrostationen Willesden Green, der ligger i den nordvestlige del af byen.
Ifølge detaljerede dokumenter indhentet af WIREDRetssagen involverede overvågning af tusindvis af passagerers bevægelser, adfærd og kropssprog for at identificere potentielle kriminelle aktiviteter og sikkerhedsrisici.
AI-softwaren, der er forbundet med live CCTV-optagelser (som er computer vision (CV)-grenen af maskinlæring), blev trænet til at identificere aggressiv adfærd, våben, billetflugt og ulykker, som f.eks. folk, der potentielt falder ned på skinnerne.
Det britiske politi har tidligere eksperimenteret med AI-overvågning og fortsætter med at gøre det ved nogle offentlige begivenheder, som de gjorde ved en Beyonce-koncert sidste år.
Men.., det er ofte været ineffektive, og menneskerettighedsgrupper har kritiseret teknologien og kaldt den en besværlig krænkelse af privatlivets fred og en kilde til fordomme og diskrimination.
AI-videoteknologi har en problematisk historie med mange projekter over hele verden underleverer mens de nogle gange forbinder mørkhudede mennesker med forbrydelser, de ikke har begået.
I løbet af TfL's forsøgsperiode blev der genereret ca. 44.000 alarmer, hvoraf ca. 19.000 blev videresendt direkte til personalet med henblik på indgriben.
Betjente deltog i tests ved at svinge våben som macheter og pistoler inden for CCTV's synsfelt (omend på tidspunkter, hvor stationen var lukket), med det formål at træne AI'en bedre.
Her er den komplette liste over resultater:
- Alarmer i alt: Over 44.000 advarsler blev udsendt af AI-systemet.
- Advarsler i realtid til stationens personale: 19.000 blev leveret i realtid til stationens personale til øjeblikkelig handling.
- Advarsler om unddragelse af billetpriser: AI-systemet genererede 26.000 advarsler i forbindelse med billetunddragelse.
- Advarsler om kørestole: Der var 59 advarsler om kørestolsbrugere på stationen, som mangler ordentlige adgangsforhold for kørestolsbrugere.
- Advarsler om sikkerhedslinjer: Næsten 2.200 blev udstedt for personer, der krydsede de gule sikkerhedslinjer på perroner.
- Advarsler på kanten af platformen: Systemet genererede 39 advarsler om folk, der lænede sig ud over kanten af togperronerne.
- Udvidede siddepladser på bænken: Næsten 2.000 advarsler handlede om personer, der sad på bænke i længere tid, hvilket kunne indikere forskellige bekymringer, herunder passagerernes trivsel eller sikkerhedsrisici.
- Advarsler om aggressiv adfærd: Der var 66 alarmer relateret til aggressiv adfærd, selvom AI-systemet havde svært ved at opdage sådanne hændelser pålideligt på grund af utilstrækkelige træningsdata.
AI-systemet klarede sig dog ikke godt i nogle scenarier, hvilket førte til fejlagtige resultater, som f.eks. at børn, der gik gennem billetspærringer, blev betragtet som potentielle snydere.
Ifølge TfL er det ultimative mål at skabe et mere sikkert og effektivt rør, der beskytter både offentligheden og personalet.
AI-overvågningsteknologi er ikke i sig selv forfærdelig, når den bruges til offentlig sikkerhed, men når teknologien først er der, er det en vanskelig opgave at holde den under kontrol.
Der er allerede tegn på Misbrug af AI i Storbritanniens offentlige sektorog Skandaler i andre lande indikerer, at det er et skråplan, hvis det ikke håndteres med den største forsigtighed.
