La metropolitana di Londra ha impiegato la tecnologia di sorveglianza AI in una sperimentazione durata un anno.
Dall'ottobre 2022 al settembre 2023, Transport for London (TfL) ha testato 11 diversi algoritmi presso la stazione della metropolitana di Willesden Green, situata nel settore nord-occidentale della città.
Secondo i documenti dettagliati ottenuti da WIREDIl processo prevedeva il monitoraggio di migliaia di movimenti, comportamenti e linguaggio del corpo dei passeggeri per identificare potenziali attività criminali e rischi per la sicurezza.
Il software di intelligenza artificiale, collegato ai filmati delle telecamere a circuito chiuso in diretta (che è il ramo della computer vision (CV) dell'apprendimento automatico), è stato addestrato a identificare comportamenti aggressivi, armi, evasione dei biglietti e incidenti, come le persone che potrebbero cadere sui binari.
La polizia britannica ha già sperimentato in passato la sorveglianza dell'intelligenza artificiale e continua a farlo in occasione di alcuni eventi pubblici, come nel caso di un Concerto di Beyonce l'anno scorso.
Tuttavia, è spesso inefficaci, e i gruppi per i diritti umani hanno criticato la tecnologia, definendola una fastidiosa invasione della privacy e fonte di pregiudizi e discriminazioni.
La tecnologia video AI ha una storia problematica, con numerosi progetti in tutto il mondo con prestazioni inferiori alle aspettative mentre a volte associa le persone con la pelle più scura a crimini che non hanno commesso.
Durante il periodo di prova di TfL, sono stati generati circa 44.000 avvisi, di cui circa 19.000 sono stati trasmessi direttamente al personale per l'intervento.
Gli agenti hanno partecipato ai test brandendo armi come machete e pistole nel campo visivo della CCTV (anche se in orari in cui la stazione era chiusa), con l'obiettivo di addestrare meglio l'IA.
Ecco l'elenco completo dei risultati:
- Totale segnalazioni: Il sistema di intelligenza artificiale ha emesso oltre 44.000 avvisi.
- Avvisi in tempo reale al personale della stazione: 19.000 sono stati consegnati in tempo reale al personale della stazione per un intervento immediato.
- Allarme evasione tariffaria: Il sistema di intelligenza artificiale ha generato 26.000 avvisi relativi ad attività di evasione tariffaria.
- Avvisi per sedie a rotelle: Ci sono state 59 segnalazioni di utenti in sedia a rotelle nella stazione, che non dispone di strutture adeguate per l'accesso alle sedie a rotelle.
- Avvisi di linea di sicurezza: Quasi 2.200 sono stati emessi per aver attraversato le linee gialle di sicurezza sui binari.
- Avvisi sul bordo della piattaforma: Il sistema ha generato 39 segnalazioni di persone che si sporgevano dal bordo delle banchine dei treni.
- Avvisi di seduta su panca estesa: Quasi 2.000 segnalazioni riguardavano persone sedute sulle panchine per periodi prolungati, che potevano indicare vari problemi, tra cui il benessere dei passeggeri o rischi per la sicurezza.
- Avvisi di comportamento aggressivo: Ci sono stati 66 avvisi relativi a comportamenti aggressivi, anche se il sistema di intelligenza artificiale ha faticato a rilevare tali incidenti in modo affidabile a causa di dati di addestramento insufficienti.
Tuttavia, il sistema di intelligenza artificiale non ha funzionato bene in alcuni scenari, portando a risultati errati, come ad esempio segnalare i bambini che passano attraverso le barriere dei biglietti come potenziali evasori.
Secondo TfL, l'obiettivo finale è quello di promuovere una metropolitana più sicura ed efficiente che protegga sia il pubblico che il personale.
La tecnologia di sorveglianza dell'intelligenza artificiale non è intrinsecamente negativa quando viene utilizzata per la sicurezza pubblica, ma una volta che la tecnologia è presente, tenerla sotto controllo è un'impresa difficile.
Ci sono già prove di Uso improprio dell'IA nel settore pubblico del Regno Unito, e scandali in altri paesi indicano che si tratta di un terreno scivoloso se non viene gestito con la massima attenzione.
