O metropolitano de Londres utilizou a tecnologia de vigilância por IA num ensaio que durou um ano.
Entre outubro de 2022 e setembro de 2023, a Transport for London (TfL) testou 11 algoritmos distintos na estação de metro de Willesden Green, localizada no sector noroeste da cidade.
De acordo com documentos pormenorizados obtidos pelo WIREDO julgamento envolveu a monitorização de milhares de movimentos, comportamentos e linguagem corporal dos passageiros para identificar potenciais actividades criminosas e riscos para a segurança.
O software de IA, associado a imagens de CCTV em direto (que é o ramo da visão computacional (CV) da aprendizagem automática), foi treinado para identificar comportamentos agressivos, armas, evasão de tarifas e acidentes, como pessoas que possam cair nos carris.
A polícia britânica já experimentou anteriormente a vigilância por IA e continua a fazê-lo em alguns eventos públicos, como aconteceu num Concerto da Beyoncé no ano passado.
No entanto, é frequentemente ineficazes, e grupos de defesa dos direitos humanos criticaram a tecnologia, considerando-a uma incómoda invasão da privacidade e fonte de preconceito e discriminação.
A tecnologia de vídeo com IA tem um historial problemático, com numerosos projectos em todo o mundo com resultados insuficientes e, por vezes, associam pessoas de pele mais escura a crimes que não cometeram.
Durante o período experimental da TfL, foram gerados cerca de 44 000 alertas, dos quais aproximadamente 19 000 foram transmitidos diretamente ao pessoal para intervenção.
Os agentes participaram nos testes brandindo armas como catanas e pistolas no campo de visão do CCTV (embora durante as horas em que a estação estava fechada), com o objetivo de treinar melhor a IA.
Eis a lista completa dos resultados:
- Total de indicações: O sistema de IA emitiu mais de 44 000 alertas.
- Alertas em tempo real para o pessoal da estação: 19.000 foram entregues em tempo real ao pessoal da estação para ação imediata.
- Alertas de evasão tarifária: O sistema de IA gerou 26 000 alertas relacionados com actividades de evasão tarifária.
- Alertas para cadeiras de rodas: Foram registados 59 alertas relativos a pessoas em cadeiras de rodas na estação, que não dispõe de instalações adequadas para o acesso de cadeiras de rodas.
- Alertas de linhas de segurança: Foram emitidas cerca de 2.200 multas por transposição das linhas de segurança amarelas nas plataformas.
- Alertas de borda da plataforma: O sistema gerou 39 alertas para pessoas que se inclinavam sobre a borda das plataformas dos comboios.
- Alertas de assento de banco alargado: Quase 2 000 alertas referiam-se a pessoas sentadas em bancos durante períodos prolongados, o que pode indicar vários problemas, incluindo o bem-estar dos passageiros ou riscos de segurança.
- Alertas de comportamento agressivo: Houve 66 alertas relacionados com comportamentos agressivos, embora o sistema de IA tenha tido dificuldade em detetar esses incidentes de forma fiável devido à insuficiência de dados de formação.
No entanto, o sistema de IA não teve um bom desempenho em alguns cenários, conduzindo a resultados erróneos, tais como assinalar as crianças que passam pelas barreiras dos bilhetes como potenciais evasores de tarifas.
Segundo a TfL, o objetivo final é promover um tubo mais seguro e eficiente que proteja tanto o público como o pessoal.
A tecnologia de vigilância por IA não é intrinsecamente terrível quando utilizada para a segurança pública, mas uma vez que a tecnologia existe, mantê-la sob controlo é uma tarefa complicada.
Já existem provas de Utilização abusiva da IA no sector público do Reino Unidoe escândalos noutros países indicam que este é um terreno escorregadio quando não é tratado com o máximo cuidado.
