Elon Musk compartió un vídeo en X en el que imita la voz de Kamala Harris, suscitando preocupación por el efecto que las falsificaciones profundas de IA podrían tener en las próximas elecciones estadounidenses.
Musk ha apoyado públicamente a Donald Trump en su candidatura a un segundo mandato y ha utilizado su plataforma X para compartir sus opiniones políticas y sociales con sus 191 millones de seguidores.
El vídeo muestra imágenes reales de los anuncios de la campaña de Harris, pero la voz en off utiliza un clon de su voz generado por inteligencia artificial. La imitación de la voz es impresionantemente precisa, ya que hace que "Harris" diga "Yo, Kamala Harris, soy vuestra candidata demócrata a la presidencia porque Joe Biden por fin expuso su senilidad en el debate".
Cuando el creador del vídeo, un YouTuber conocido como Mr Reagan, lo publicó en X y YouTube, reveló que se trataba de una parodia. Cuando Musk lo volvió a publicar, se limitó a decir: "Esto es increíble" y añadió un emoji de risa, pero sin revelar que el vídeo había sido manipulado y pretendía ser una parodia.
Musk ha sido criticado por compartir el vídeo manipulado con IA, con la previsible indignación de los demócratas. El gobernador de California, Gavin Newsom, afirmó que su proyecto de ley "Innovación segura para modelos de inteligencia artificial de frontera", también conocido como SB 1047, abordará los riesgos inherentes a los vídeos manipulados con IA.
Las políticas de X establecen que "no puedes compartir medios sintéticos, manipulados o fuera de contexto que puedan engañar o confundir a la gente y provocar daños ("medios engañosos")". Los términos establecen que los memes y la sátira no violan estas políticas "siempre que no causen confusión significativa sobre la autenticidad de los medios".
Obviamente, Musk consideró que la naturaleza satírica del vídeo era evidente.
He consultado a una autoridad mundial de renombre, el profesor Suggon Deeznutz, y me ha dicho que la parodia es legal en Estados Unidos 🤷♂️ https://t.co/OCBewC3XYD
- Elon Musk (@elonmusk) 29 de julio de 2024
No todo el mundo está de acuerdo en que los millones de personas que vieron el vídeo entendieran que se trata de una broma manipulada por la IA.
Rob Weissman, copresidente del grupo de defensa Public Citizen, dijo: "No creo que sea obviamente una broma. Estoy seguro de que la mayoría de la gente que lo ve no supone que sea una broma. La calidad no es muy buena, pero sí lo suficiente. Y precisamente porque se alimenta de temas preexistentes que han circulado a su alrededor, la mayoría de la gente creerá que es real".
La semana pasada, la FCC publicó una propuesta de norma que obliga a divulgar los contenidos generados por IA en los anuncios políticos de radio y televisión.
Weissman ha declarado: "Los consumidores tienen derecho a saber cuándo se utilizan herramientas de IA en los anuncios políticos que ven en las ondas. Esa es la base de sentido común de las normas propuestas por la FCC sobre la transparencia de la difusión de la IA, que se necesitan desesperadamente".
"Nos dirigimos hacia unas elecciones que pueden estar distorsionadas, o incluso decididas, por deepfakes políticos. Sin embargo, esta es una distopía totalmente evitable, si los reguladores simplemente exigen divulgaciones cuando la IA se utiliza en comunicaciones políticas, incluso en anuncios de radio y televisión."
¿El vídeo del Sr. Reagan era un anuncio político, una broma o un poco de ambas cosas?
La sátira política existe desde hace siglos, pero los dibujos animados o una imitación de un cómico son fáciles de distinguir de la realidad. Vídeos como el que compartió Musk difuminan considerablemente las líneas.
A medida que mejoren las voces y los vídeos generados por la IA, es de esperar que aumente el apetito por el juego político y por escudarse en la defensa de "sólo estaba bromeando".
