I politici sono di solito i soggetti non autorizzati dei deepfakes, ma il sindaco di New York Eric Adams sta usando questa tecnologia alimentata dall'intelligenza artificiale per raggiungere i residenti della sua città.
Nel tentativo di raggiungere un pubblico più ampio, Adams ha utilizzato l'intelligenza artificiale per creare audio di se stesso che parla in lingue che vanno dallo yiddish al mandarino. L'audio viene poi utilizzato per effettuare chiamate automatiche ai residenti della città per informarli di eventi come fiere del lavoro e concerti.
La praticità della mossa è evidente, ma solleva anche alcune questioni etiche.
La gente mi ferma sempre per strada e mi dice: "Non sapevo che parlassi mandarino". Le telefonate automatiche che stiamo usando, utilizzano lingue diverse per parlare direttamente alla diversità dei newyorkesi", ha detto Adams.
Il problema è che Adams non parla quelle lingue e le chiamate rapide non informano il destinatario che la voce che sta ascoltando è stata generata dall'intelligenza artificiale. Adams sta ingannando il suo elettorato o è efficiente e pieno di risorse?
Il direttore esecutivo del Surveillance Technology Oversight Project Albert Fox Cahn non è un fan dell'uso dell'IA da parte del sindaco.
"È profondamente immorale, soprattutto a spese dei contribuenti. Usare l'intelligenza artificiale per convincere i newyorkesi che egli parla lingue che non conosce è profondamente orwelliano. Sì, abbiamo bisogno di annunci in tutte le lingue native dei newyorkesi, ma i falsi profondi sono solo un inquietante progetto di vanità", ha detto Cahn.
È un po' inquietante? La città ha caricato su YouTube una delle chiamate automatiche spagnole, quindi giudicate voi.
Adams ritiene che il fine giustifichi i mezzi, ma riconosce che "dobbiamo preoccuparci dell'abuso, ma vogliamo un uso corretto".
Questa mossa solleva anche questioni etico-politiche. La telefonata di Adams potrebbe rendere una persona di lingua spagnola più propensa a votare per lui se crede che il sindaco parli la sua lingua?
Adams ha menzionato le false chiamate telefoniche durante una conferenza stampa sul nuovo progetto della città. Piano d'azione per l'intelligenza artificiale.
Il piano d'azione delinea le tempistiche del progetto e le aspirazioni per un uso sicuro dell'IA al fine di servire in modo più efficace gli 8 milioni di abitanti della città.
"Sono orgoglioso di presentare un piano che raggiungerà un equilibrio critico nella conversazione globale sull'IA - un piano che consentirà alle agenzie cittadine di impiegare tecnologie che possono migliorare la vita e allo stesso tempo proteggere da quelle che possono nuocere", ha dichiarato Adams.
Uno dei più recenti esempi di utilizzo dell'IA da parte della città è il chatbot MyCity, che risponde alle domande relative alle registrazioni delle imprese e ai regolamenti.
L'approccio lungimirante all'intelligenza artificiale adottato da Adams può essere lodevole, anche se con alcune iniziative discutibili come le false chiamate automatiche.
Adams, raddoppiando i suoi deepfakes, ha detto: "È eticamente giusto o sbagliato? Io ho una cosa, devo amministrare una città e devo essere in grado di parlare alle persone in lingue che capiscono... a tutti, tutto ciò che posso dire è ni hao".
