Las falsificaciones profundas se han convertido rápidamente en un grave problema social y político y en una posible amenaza para la integridad de las elecciones.
Poco antes de las reñidas elecciones eslovacas, un clip de audio polémico en las que una voz sorprendentemente parecida a la del líder del Partido Progresista eslovaco, Michal Šimečka, hablaba de un plan para manipular las elecciones.
Debido a la proximidad de la hora de la votación, era difícil advertir a la gente de que era falso.
Poco después, se desató otra polémica cuando se oyó al líder del Partido Laborista del Reino Unido ladrar improperios en un clip de audio publicado en X, en el que se afirmaba: "He obtenido un audio de Keir Starmer abusando verbalmente de su personal en la conferencia [del Partido Laborista]", publicó la cuenta X. "Este asqueroso matón está a punto de convertirse en nuestro próximo primer ministro". "Este asqueroso matón está a punto de convertirse en nuestro próximo primer ministro".
En el mismo periodo, se eliminó una cuenta de TikTok tras descubrirse que era producción de clips falsos del encarcelado ex presidente sudanés Omar Al-Bashir, avivando las llamas de un país ya en guerra civil.
Los clips de los tres casos tenían algo en común: eran falsos y probablemente creados con IA.
Mientras que las imágenes y los vídeos con IA son omnipresentes y plantean sus propios problemas, los clips de audio falsos son más difíciles de detectar y a menudo se cuelan en la red. Las voces en sí tienden a ser muy auténticas; como destacó Jack Brewster, de NewsGuard, "Obama sigue pareciendo un poco plasticoso cuando los actores malos utilizan su cara. Pero el audio de su voz es bastante bueno, y creo que esa es la gran diferencia en este caso".
A la luz de estas preocupaciones, un grupo de senadores propuso la "No Fakes Act", un proyecto de ley destinado a penalizar a quienes produzcan o compartan audio o vídeos creados por IA sin el consentimiento de la persona original.
Como Hany Farid, profesor de análisis forense digital en la Universidad de California en Berkeley, diceEsto no es hipotético. Estamos hablando de violencia, estamos hablando de robo de elecciones, estamos hablando de fraude - [esto tiene] consecuencias en el mundo real para los individuos, para las sociedades y para las democracias".
Las aplicaciones de clonación de voz han evolucionado espectacularmente, con plataformas como Eleven Labs que ofrecen herramientas que permiten crear una voz "deepfaked" por una cuota mensual nominal de sólo $5.
Hany Farid, subrayando la responsabilidad de los gigantes de las redes sociales, declaró: "Podrían cerrar la espita ahora mismo si quisieran. Pero es malo para el negocio".
¿Puede la inteligencia artificial falsear las elecciones?
Las falsificaciones profundas ya han demostrado su impacto en el mundo real, con una imagen falsa de una explosión en el Pentágono a principios de año que provocó una caída temporal de los mercados, aunque sólo durante unos minutos.
Estos clips, vídeos y vídeos falsos amenazan un panorama informativo ya de por sí frágil, en el que las sospechas suelen ser altas y los márgenes estrechos.
Aunque evaluar el verdadero impacto de las falsificaciones profundas de IA en el discurso político y el comportamiento de voto es excepcionalmente difícil, baja el listón de la desinformación.
Ben Winters, representante del Electronic Privacy Information Center, afirma: "Los grados de confianza disminuirán, el trabajo de los periodistas y otros que intentan difundir información real será más difícil".
Además, aunque implicar falsamente a los políticos en escenarios que dañan su reputación es una de las tácticas más comunes de estas campañas, también podrían conducir al "dividendo del mentiroso", donde se hace posible refutar las acusaciones veraces como falsas.
La lucha contra las falsificaciones profundas de IA requiere una combinación de filtros de contenidos de IA más avanzados en las redes sociales y la educación del público. Sin embargo, la calidad de las falsificaciones en sí solo va a mejorar.
