Os políticos são normalmente os sujeitos não autorizados dos deepfakes, mas o presidente da câmara de Nova Iorque, Eric Adams, está a utilizar esta tecnologia alimentada por IA para chegar aos residentes da sua cidade.
Num esforço para chegar a um público mais vasto, Adams utilizou a IA para criar áudio de si próprio a falar em línguas que vão do iídiche ao mandarim. O áudio é depois utilizado para fazer chamadas automáticas para os residentes da cidade para os informar de eventos como feiras de emprego e concertos.
O carácter prático da mudança é óbvio, mas levanta também algumas questões éticas.
As pessoas param-me constantemente na rua e dizem: "Não sabia que falava mandarim, sabe? As chamadas automáticas que estamos a usar, estamos a usar diferentes línguas para falar diretamente com a diversidade dos nova-iorquinos", disse Adams.
A questão é que Adams não fala essas línguas e as chamadas automáticas não informam o destinatário de que a voz que está a ouvir foi gerada por IA. Estará Adams a enganar o seu eleitorado ou a ser engenhoso e eficiente?
O diretor executivo do Projeto de Supervisão da Tecnologia de Vigilância, Albert Fox Cahn, não é fã da utilização da IA pelo Presidente da Câmara.
"Isto é profundamente antiético, especialmente à custa dos contribuintes. Utilizar a IA para convencer os nova-iorquinos de que ele fala línguas que não fala é profundamente orwelliano. Sim, precisamos de anúncios em todas as línguas nativas dos nova-iorquinos, mas as falsificações profundas são apenas um projeto de vaidade assustador", disse Cahn.
É um pouco assustador? A cidade colocou uma das chamadas automáticas espanholas no YouTube.
Adams considera que os fins justificam os meios, mas reconhece que "temos de nos preocupar com o abuso, mas queremos uma utilização correcta".
Há também questões politicamente éticas que esta ação levanta. Poderá o telefonema automático de Adams fazer com que uma pessoa de língua espanhola tenha mais probabilidades de votar nele se essa pessoa acreditar que o presidente da câmara fala a sua língua?
Adams mencionou as chamadas automáticas falsas durante uma conferência de imprensa sobre a nova Plano de Ação para a Inteligência Artificial.
O plano de ação define os prazos e as aspirações do projeto para a utilização segura da IA, a fim de servir mais eficazmente os 8 milhões de habitantes da cidade.
"Estou orgulhoso de apresentar um plano que irá atingir um equilíbrio crítico na conversa global sobre IA - um plano que irá capacitar as agências municipais a implantar tecnologias que podem melhorar vidas, enquanto protegem contra aquelas que podem causar danos", disse Adams.
Um dos exemplos mais recentes da utilização de IA pela cidade é o MyCity Chatbot, que responde a questões relacionadas com registos e regulamentos de empresas.
A abordagem da IA com visão de futuro que Adams adoptou pode ser louvável, embora com algumas iniciativas questionáveis, como as chamadas automáticas falsas.
Adams, que se tornou um deepfakes, disse: "Isto é eticamente correto ou incorreto? Eu tenho uma coisa, tenho de gerir uma cidade e tenho de ser capaz de falar com as pessoas em línguas que elas entendam... a todos, tudo o que posso dizer é ni hao".
