Politikere er normalt de uautoriserede emner for deepfakes, men NYC's borgmester Eric Adams bruger denne AI-drevne teknologi til at nå ud til indbyggerne i sin by.
I et forsøg på at nå ud til et bredere publikum har Adams brugt AI til at skabe lyd af sig selv, der taler på sprog lige fra jiddisch til mandarin. Lyden bruges derefter til at foretage automatiserede robocalls til byens indbyggere for at informere dem om begivenheder som jobmesser og koncerter.
Det er indlysende, at det er praktisk, men det rejser også nogle etiske spørgsmål.
"Folk stopper mig hele tiden på gaden og siger: 'Jeg vidste ikke, at du talte mandarin'. De robocalls, vi bruger, bruger forskellige sprog til at tale direkte til New York-borgernes mangfoldighed", siger Adams.
Problemet er, at Adams ikke taler disse sprog, og at robocalls ikke informerer modtageren om, at den stemme, de hører, er AI-genereret. Vildleder Adams sine vælgere, eller er han opfindsom og effektiv?
Den administrerende direktør for Surveillance Technology Oversight Project, Albert Fox Cahn, er ikke fan af borgmesterens brug af AI.
"Det er dybt uetisk, især på skatteydernes regning. At bruge kunstig intelligens til at overbevise newyorkerne om, at han taler sprog, som han ikke gør, er dybt orwellsk. Ja, vi har brug for meddelelser på alle newyorkernes modersmål, men de dybe forfalskninger er bare et uhyggeligt forfængelighedsprojekt," siger Cahn.
Er det lidt uhyggeligt? Byen har uploadet et af de spanske robocalls til YouTube, så det er op til dig at bedømme.
Adams mener, at målet helliger midlet, men erkender, at "vi er nødt til at være bekymrede for misbrug af det, men vi ønsker den rette brug."
Der er også politisk etiske spørgsmål, som dette træk rejser. Kan Adams' robocall gøre en spansktalende person mere tilbøjelig til at stemme på ham, hvis personen tror, at borgmesteren taler deres sprog?
Adams nævnte de dybt falske robocalls under en pressekonference om byens nye Handlingsplan for kunstig intelligens.
Handlingsplanen skitserer projektets tidslinjer og ambitioner for sikker brug af AI til at betjene byens 8 millioner indbyggere mere effektivt.
"Jeg er stolt over at kunne præsentere en plan, der vil skabe en kritisk balance i den globale AI-samtale - en plan, der vil give byens myndigheder mulighed for at anvende teknologier, der kan forbedre liv og samtidig beskytte mod dem, der kan gøre skade", sagde Adams.
Et af de seneste eksempler på, at byen bruger AI, er MyCity Chatbot, som besvarer spørgsmål om virksomhedsregistreringer og regler.
Den fremsynede AI-tilgang, som Adams har taget, kan være prisværdig, om end med nogle tvivlsomme initiativer som falske robocalls.
Adams fordoblede sine deepfakes og sagde: "Er det her etisk rigtigt eller forkert? Jeg har én ting, jeg skal lede en by, og jeg skal kunne tale til folk på et sprog, de forstår ... til alle kan jeg kun sige ni hao."
