Apareció en Internet un vídeo falso en el que aparecía Kari Lake, creado por el medio de noticias digital Arizona Agenda.
En el vídeo, un lago generado por la IA promociona la Agenda de Arizona, afirmando: "Suscríbete a la Agenda de Arizona para recibir noticias reales y contundentes".
A continuación, lanza un mensaje sobre el papel de la IA en las elecciones: "Y un adelanto de la terrorífica inteligencia artificial que se te viene encima en las próximas elecciones, como este vídeo, que es un deepfake de IA que la Agenda Arizona hizo para mostrarte lo buena que se está volviendo esta tecnología."
El vídeo engañó incluso a Hank Stephenson, cofundador y periodista de Arizona Agenda, que admitió: "Cuando empezamos a hacerlo, pensé que iba a ser tan malo que no engañaría a nadie, pero me quedé alucinado".
El vídeo, aunque quizá benigno en su intención, se volvió en su contra de forma espectacular. El equipo de Lakes respondió con una carta de cese y desistimiento, exigiendo la retirada inmediata de los vídeos de todas las plataformas. Advertían de que, en caso contrario, emprenderían acciones legales.
A pesar de esta presión legal, Stephenson reveló que consultó con abogados sobre cómo responder. Cree que estas falsificaciones profundas son herramientas de aprendizaje vitales, afirmando: "Combatir esta nueva ola de desinformación tecnológica en este ciclo electoral depende de todos nosotros."
Puedes ver el vídeo a continuación. La descripción dice: "Este es un video falso profundo de Kari Lake. NO es real y fue creado sin el permiso de la Sra. Lake. La Sra. Lake no respalda nuestra publicación de ninguna manera".
¿Un comentario justo? Posiblemente, pero crear falsificaciones profundas autopromocionales de personas sin su permiso no es una buena forma de hacerlo.
Como dijo un comentarista en Reddit: "No importa quién sea: los deepfakes hechos para engañar a la gente en términos políticos son peligrosos y están mal."
La cuestión se extiende más allá de los casos individuales, como se ve en el ámbito político más amplio. El propio Donald Trump ha acusado anteriormente a sus oponentes de utilizar Contenidos generados por la IA en su contramostrando cómo las fintas profundas son a la vez un arma y una vulnerabilidad.
Mal uso de la IA en las elecciones es una tendencia internacional que afecta a países desde Eslovaquia hasta Indonesia. Las tácticas digitales para influir en los resultados políticos mediante el engaño se han vuelto más diversas y realistas.
Reglamentos, incluida la Comisión Federal de Comunicaciones (CFC) la prohibición de determinadas llamadas robóticas generadas por IA y la creación de un grupo de trabajo bipartidista para estudiar la regulación de la IA, indican pasos para hacer frente a las falsificaciones profundas.
Sin embargo, dado que la tecnología de IA avanza con rapidez, la FEC aún no ha establecido normas que regulen la IA en los anuncios políticos.
La IA avanza más rápido que los legisladores, y la próxima polémica es probablemente inminente.
