Politikere er vanligvis de uautoriserte objektene for deepfakes, men New Yorks borgermester Eric Adams bruker denne AI-drevne teknologien for å nå ut til innbyggerne i byen sin.
I et forsøk på å nå ut til et bredere publikum har Adams brukt kunstig intelligens til å lage lyd av seg selv på språk som spenner fra jiddisch til mandarin. Lyden brukes deretter til å foreta automatiserte robocalls til byens innbyggere for å informere dem om arrangementer som jobbmesser og konserter.
Det er åpenbart at det er praktisk, men det reiser også noen etiske spørsmål.
"Folk stopper meg på gaten hele tiden og sier: "Jeg visste ikke at du snakket mandarin, vet du? Vi bruker ulike språk i robocallene våre for å snakke direkte til mangfoldet av New York-borgere", sier Adams.
Problemet er at Adams ikke snakker disse språkene, og at robocallene ikke informerer mottakeren om at stemmen de hører, er generert av kunstig intelligens. Villeder Adams velgerne sine, eller er han ressurssterk og effektiv?
Albert Fox Cahn, administrerende direktør for Surveillance Technology Oversight Project, er ikke tilhenger av borgermesterens bruk av AI.
"Dette er dypt uetisk, spesielt på skattebetalernes regning. Å bruke kunstig intelligens til å overbevise newyorkere om at han snakker språk han ikke snakker, er dypt orwellsk. Ja, vi trenger kunngjøringer på alle New York-borgernes morsmål, men de dype forfalskningene er bare et skummelt forfengelighetsprosjekt", sier Cahn.
Er det litt skummelt? Byen lastet opp en av de spanske robocallene til YouTube, så du kan selv bedømme.
Adams mener at målet helliger middelet, men erkjenner samtidig at "vi må være bekymret for misbruk, men vi vil ha riktig bruk."
Det er også politisk etiske spørsmål som dette trekket reiser. Kan Adams' robocall gjøre det mer sannsynlig at en spansktalende person vil stemme på ham hvis vedkommende tror at ordføreren snakker deres språk?
Adams nevnte de falske robocallene under en pressekonferanse om byens nye Handlingsplan for kunstig intelligens.
Handlingsplanen skisserer prosjektets tidslinjer og ambisjoner for sikker bruk av kunstig intelligens for å betjene byens 8 millioner innbyggere på en mer effektiv måte.
"Jeg er stolt over å presentere en plan som vil skape en kritisk balanse i den globale samtalen om kunstig intelligens - en plan som vil gjøre det mulig for bymyndigheter å ta i bruk teknologier som kan forbedre liv, samtidig som de beskytter mot de som kan gjøre skade", sa Adams.
Et av de nyeste eksemplene på at byen bruker kunstig intelligens, er MyCity Chatbot, som svarer på spørsmål knyttet til bedriftsregistreringer og reguleringer.
Den fremtidsrettede AI-tilnærmingen Adams har tatt, kan være prisverdig, om enn med noen tvilsomme initiativer som falske robocalls.
Adams doblet sine deepfakes og sa: "Er dette etisk riktig eller galt? Jeg har én ting, jeg må styre en by, og jeg må kunne snakke til folk på et språk de forstår ... til alle kan jeg bare si ni hao."
