Una nuova ondata di sorveglianza potenziata dall'intelligenza artificiale si sta diffondendo negli Stati Uniti e nel Regno Unito, con l'impiego da parte di aziende private e agenzie governative di telecamere potenziate dall'intelligenza artificiale per analizzare le folle, individuare potenziali crimini e persino monitorare gli stati emotivi delle persone negli spazi pubblici.
Nel Regno Unito, l'ente per le infrastrutture ferroviarie Network Rail ha recentemente testato telecamere AI in otto stazioni ferroviarie, tra cui i principali hub come le stazioni londinesi di Waterloo ed Euston e Manchester Piccadilly.
Documenti ottenuto dal gruppo per le libertà civili Big Brother Guarda rivelano che le telecamere hanno lo scopo di rilevare gli sconfinamenti sui binari, il sovraffollamento delle piattaforme, i "comportamenti antisociali" come l'uso dello skateboard e del fumo e i potenziali furti di biciclette.
L'aspetto più preoccupante è che il sistema di intelligenza artificiale, basato sul software Rekognition di Amazon, ha cercato di analizzare l'età, il sesso e le emozioni delle persone, come felicità, tristezza e rabbia, quando passavano davanti a "fili d'inciampo" virtuali vicino alle barriere dei biglietti.
⚠️We ha scoperto documenti che rivelano che otto stazioni ferroviarie hanno sperimentato Amazoncon le loro telecamere a circuito chiuso, alcuni dei quali analizzano l'età, il sesso e le emozioni dei passeggeri.
"L'introduzione e la normalizzazione della sorveglianza dell'intelligenza artificiale in questi spazi pubblici, senza... pic.twitter.com/dJLS75ZURH
- Guarda il Grande Fratello (@BigBrotherWatch) 17 giugno 2024
Il rapporto di Network Rail, che in parte è stato redatto, dice che c'era "una telecamera in ogni stazione (in genere la telecamera della linea di accesso), in cui veniva scattata un'istantanea al secondo ogni volta che le persone attraversavano il filo di sicurezza e veniva inviata per l'analisi da AWS Rekognition".
Si legge poi: "Potenzialmente, la metrica delle emozioni dei clienti potrebbe essere utilizzata per misurare la soddisfazione" e "Questi dati potrebbero essere utilizzati per massimizzare le entrate pubblicitarie e di vendita al dettaglio. Tuttavia, è stato difficile quantificare questo aspetto, poiché le NR Properties non sono mai state coinvolte con successo".
Amazon Rekogniton, una piattaforma di apprendimento automatico di computer vision (CV) di Amazon, è in grado di rilevare le emozioni. Tuttavia, si trattava solo di un test pilota e la sua efficacia non è chiara.
Il rapporto afferma che, utilizzando le telecamere per contare le persone che attraversano i cancelli ferroviari, "l'accuratezza tra le linee dei cancelli è stata uniformemente scarsa, con un'accuratezza media di circa 50% - 60% rispetto al conteggio manuale", ma si prevede un miglioramento.
Anche l'uso della tecnologia di riconoscimento facciale da parte delle forze dell'ordine ha sollevato preoccupazioni. Non molto tempo fa, la polizia metropolitana di Londra ha utilizzato telecamere per il riconoscimento facciale dal vivo per identificare e arrestare 17 persone nelle aree di Croydon e Tooting della città.
La tecnologia confronta i filmati delle telecamere in diretta con una lista di persone con mandati di cattura in sospeso, come parte della "polizia di precisione".
A febbraio, la polizia ha utilizzato il sistema per effettuare 42 arresti, anche se non è chiaro quanti abbiano portato ad accuse formali.
"L'introduzione e la normalizzazione della sorveglianza dell'intelligenza artificiale in questi spazi pubblici, senza alcuna consultazione e conversazione, è un passo preoccupante", ha commentato Jake Hurfurt, responsabile della ricerca di Big Brother Watch.
Le vostre emozioni su un database
I critici hanno sostenuto con veemenza che il riconoscimento facciale minaccia le libertà civili.
Membri del Parlamento nel Regno Unito ha esortato la polizia a riconsiderare come impiegano la tecnologia dopo aver suggerito di poter accedere a un database di 45 milioni di fototessere per addestrare meglio questi modelli di sorveglianza.
Gli esperti mettono in dubbio anche l'accuratezza del riconoscimento facciale e la sua base legale, con Big Brother Guardare discutere che la maggior parte (85%+) delle corrispondenze di riconoscimento facciale della polizia britannica sono identificazioni errate.
I funzionari della Met Police hanno cercato di dissipare i timori sulla privacy, affermando che le immagini non corrispondenti vengono rapidamente cancellate e che il sistema di riconoscimento facciale è stato sottoposto a controlli indipendenti.
Tuttavia, le chiacchiere sono a buon mercato quando l'uso improprio di questi sistemi di intelligenza artificiale ha un impatto reale sulla vita delle persone. Programmi di polizia predittiva nel US in genere non hanno raggiunto i loro obiettivi e hanno causato danni collaterali sotto forma di molestie da parte della polizia e incarcerazioni ingiuste.
Le preoccupazioni per i pregiudizi e l'imprecisione dei sistemi di riconoscimento facciale, in particolare per le persone di colore, sono state uno dei principali punti di discussione.
Gli studi hanno dimostrato che la tecnologia può essere significativamente meno accurata per i volti dalla pelle più scura, in particolare per le donne di colore.
I politici dovranno confrontarsi con domande difficili sulla trasparenza, la responsabilità e la regolamentazione di questi potenti strumenti.
Un solido dibattito pubblico e quadri giuridici chiari saranno fondamentali per garantire che i benefici dell'IA in materia di sicurezza pubblica non siano superati dai rischi per i diritti individuali e i valori democratici.
Con l'avanzare della tecnologia, il tempo per la resa dei conti potrebbe essere breve.
