El Departamento de Justicia de EE.UU. (DOJ) citó los riesgos de desinformación de IA y deepfakes como razones por las que no publicará el audio de la entrevista de Joe Biden con el abogado especial sobre su manejo de documentos clasificados.
El Departamento de Justicia llegó a la conclusión de que no había motivos para procesar a Biden, pero la transcripción de la entrevista se convirtió en bienvenido combustible para los críticos de las facultades mentales de Biden y su capacidad para presentarse a otro mandato.
Leer una transcripción es una cosa, escuchar el audio del Presidente de EE.UU. luchando por recordar la fecha en que murió su hijo u olvidando quién era el Presidente de México es algo totalmente distinto.
El DOJ dice que su incapacidad para luchar contra la desinformación de la IA es la razón por la que no hará público el audio.
"El paso del tiempo y los avances en audio, inteligencia artificial y tecnologías de 'falsificación profunda' no hacen sino amplificar la preocupación por la manipulación maliciosa de archivos de audio. Si la grabación de audio se difunde aquí, es fácil prever que podría alterarse indebidamente, y que el archivo alterado podría hacerse pasar por una grabación auténtica y distribuirse ampliamente", el departamento escribió en su escrito judicial.
El vicefiscal general adjunto del DOJ, Bradley Weinsheimer, dijo que si publicaban el audio habría un "riesgo sustancial de que actores malintencionados pudieran alterar la grabación para (por ejemplo) insertar palabras que el presidente Biden no dijo o borrar palabras que sí dijo."
Clones de voz generados por IA sólo necesitan unos segundos de la voz de una persona para generar un audio convincente. Un clon de la voz de Joe Biden se utilizó en un campaña de llamadas falsas en enero, lo que disuadió a los electores de votar en las primarias.
El expediente reconocía que ya era posible crear un clon de la voz de Biden.
Decía. "Sin duda, ya se dispone de otro material en bruto para crear una deepfake de la voz del Presidente Biden, pero la publicación de la grabación de audio presenta riesgos únicos: si fuera de dominio público que la grabación de audio ha sido publicada, sería más fácil para los actores maliciosos hacer pasar un archivo alterado por la grabación verdadera."
El Director Ejecutivo del Proyecto de Supervisión de la Heritage Foundation, Mike Howell, cree que el Departamento de Justicia está utilizando los deepfakes de IA como una excusa conveniente.
"No quieren hacer público este audio en absoluto... Están haciendo todo lo posible y están absolutamente asustados porque no tienen ningún argumento legal bueno en el que apoyarse", dijo Howell.
El senador Mark Warner, presidente demócrata del Comité de Inteligencia del Senado, reconoció el riesgo de manipulación por parte de la IA, pero afirmó que el audio debería publicarse con "componentes de marca de agua" para poder detectar las manipulaciones.
Irónicamente, algunos republicanos han especulado públicamente con que la transcripción no refleja fielmente la entrevista.
La desinformación por IA y los deepfakes han tenido un innegable efecto perturbador. impacto en la política mundial.
Pero la facilidad para crear imágenes, audio y vídeo falsos también ha proporcionado una cómoda excusa a los políticos que se encuentran en una situación delicada.
