Politiker är vanligtvis de obehöriga föremålen för deepfakes, men NYC:s borgmästare Eric Adams använder denna AI-drivna teknik för att nå invånarna i sin stad.
I ett försök att nå ut till en bredare publik har Adams använt AI för att skapa ljud av sig själv när han talar på språk som sträcker sig från jiddisch till mandarin. Ljudet används sedan för att göra automatiserade robotsamtal till stadens invånare för att informera dem om evenemang som jobbmässor och konserter.
Det är uppenbart att det är en praktisk åtgärd, men den väcker också en del etiska frågor.
"Folk stoppar mig på gatan hela tiden och säger: 'Jag visste inte att du talade mandarin, vet du? De robotsamtal som vi använder, vi använder olika språk för att tala direkt till New York-bornas mångfald", säger Adams.
Problemet är att Adams inte talar dessa språk och att robocalls inte informerar mottagaren om att rösten de hör är AI-genererad. Vilseleder Adams sina väljare eller är han resursstark och effektiv?
Den verkställande direktören för Surveillance Technology Oversight Project Albert Fox Cahn är inte ett fan av borgmästarens användning av AI.
"Det här är djupt oetiskt, särskilt på skattebetalarnas bekostnad. Att använda AI för att övertyga New York-bor om att han talar språk som han inte gör är djupt orwellskt. Ja, vi behöver tillkännagivanden på alla New York-bornas modersmål, men de djupa förfalskningarna är bara ett läskigt fåfänglighetsprojekt", säger Cahn.
Är det lite läskigt? Staden laddade upp ett av de spanska robocallen till YouTube, så du får själv avgöra.
Adams anser att ändamålet helgar medlen, men medgav att "vi måste vara oroliga för missbruk, men vi vill att det ska användas på rätt sätt".
Det finns också politiskt etiska frågor som detta drag väcker. Kan Adams robocall göra en spansktalande person mer benägen att rösta på honom om den personen tror att borgmästaren talar deras språk?
Adams nämnde de djupa falska robocalls under en presskonferens om stadens nya Handlingsplan för artificiell intelligens.
Handlingsplanen beskriver projektets tidsramar och ambitioner för en säker användning av AI för att ge stadens 8 miljoner invånare en mer effektiv service.
"Jag är stolt över att presentera en plan som kommer att skapa en kritisk balans i den globala AI-konversationen - en plan som kommer att ge stadens myndigheter möjlighet att använda teknik som kan förbättra liv och samtidigt skydda mot dem som kan skada", sa Adams.
Ett av de senaste exemplen på att staden använder AI är MyCity Chatbot som svarar på frågor om företagsregistreringar och regleringar.
Den framåtblickande AI-strategi som Adams har tagit kan vara berömvärd, om än med några tvivelaktiga initiativ som falska robocalls.
Adams fördubblade sina deepfakes och sa: "Är det här etiskt rätt eller fel? Jag har en sak, jag måste styra en stad, och jag måste kunna tala med människor på språk som de förstår ... till alla, allt jag kan säga är ni hao."
