Los políticos suelen ser los sujetos no autorizados de los deepfakes, pero el alcalde de Nueva York, Eric Adams, está utilizando esta tecnología impulsada por IA para llegar a los residentes de su ciudad.
En un esfuerzo por llegar a un público más amplio, Adams ha utilizado la IA para crear grabaciones de sí mismo hablando en idiomas que van del yiddish al mandarín. El audio se utiliza después para hacer llamadas automáticas a los residentes de la ciudad para informarles de eventos como ferias de empleo y conciertos.
El sentido práctico de la medida es obvio, pero también plantea algunas cuestiones éticas.
"La gente me para por la calle todo el tiempo y me dice: 'No sabía que hablabas mandarín'. Los robocalls que estamos utilizando, estamos utilizando diferentes idiomas para hablar directamente a la diversidad de los neoyorquinos", dijo Adams.
El problema es que Adams no habla esos idiomas y las llamadas automáticas no informan al destinatario de que la voz que escucha ha sido generada por inteligencia artificial. ¿Está Adams engañando a su electorado o está siendo ingenioso y eficiente?
El Director Ejecutivo del Proyecto de Supervisión de la Tecnología de Vigilancia, Albert Fox Cahn, no es partidario del uso de la IA por parte del alcalde.
"Esto es muy poco ético, especialmente con el dinero de los contribuyentes. Utilizar la IA para convencer a los neoyorquinos de que habla lenguas que no habla es profundamente orwelliano. Sí, necesitamos anuncios en todas las lenguas maternas de los neoyorquinos, pero las falsificaciones profundas no son más que un espeluznante proyecto de vanidad", afirmó Cahn.
¿Es un poco espeluznante? La ciudad subió a YouTube una de las robollamadas españolas, así que juzgue usted.
Adams cree que el fin justifica los medios, pero reconoció que "tenemos que preocuparnos por el abuso, pero queremos un uso adecuado".
También se plantean cuestiones éticas desde el punto de vista político. ¿Podría la llamada automática de Adams hacer que una persona de habla hispana se sienta más inclinada a votarle si cree que el alcalde habla su idioma?
Adams mencionó las llamadas falsas durante una rueda de prensa sobre la nueva Plan de Acción sobre Inteligencia Artificial.
El plan de acción esboza los plazos del proyecto y las aspiraciones para el uso seguro de la IA con el fin de prestar un servicio más eficaz a los 8 millones de habitantes de la ciudad.
"Me enorgullece presentar un plan que logrará un equilibrio crítico en el debate mundial sobre la inteligencia artificial, un plan que permitirá a los organismos municipales desplegar tecnologías que pueden mejorar la vida de las personas y, al mismo tiempo, protegerlas de las que pueden hacer daño", declaró Adams.
Uno de los últimos ejemplos de uso de la IA por parte de la ciudad es el chatbot MyCity, que responde a consultas relacionadas con registros y normativas empresariales.
El enfoque vanguardista de la IA que ha adoptado Adams puede ser loable, aunque con algunas iniciativas cuestionables como las llamadas falsas.
Insistiendo en sus "deepfakes", Adams dijo: "¿Esto es éticamente correcto o incorrecto? Tengo una cosa, tengo que dirigir una ciudad, y tengo que ser capaz de hablar a la gente en idiomas que entiendan... a todos, lo único que puedo decir es ni hao".
