Midjourney, empresa pionera en la generación de imágenes mediante inteligencia artificial, está considerando la posibilidad de prohibir por completo las imágenes de Joe Biden y Donald Trump generadas por inteligencia artificial de cara a las elecciones estadounidenses de 2024.
Con ello se pretende evitar que la plataforma se convierta en un vehículo de desinformación de cara a las elecciones de este año.
El Director General de Midjourney, David Holz, expresó con franqueza su postura sobre el contenido político en su plataforma, afirmando: "No sé hasta qué punto me importa el discurso político para el próximo año para nuestra plataforma."
Holz también compartió con humor sus sentimientos encontrados sobre la producción de imágenes de Donald Trump: "Sé que es divertido hacer fotos de Trump: yo hago fotos de Trump. Trump es estéticamente muy interesante. Sin embargo, probablemente sea mejor no hacerlo, mejor retirarse un poco durante estas elecciones. Ya veremos".
La conversación en torno a las imágenes generadas por IA, especialmente en contextos políticos, se ha intensificado, sobre todo debido a una reciente polémica en torno a imágenes explícitas de Taylor Swift generadas por IA.
Taylor Swift fue objeto de una serie de imágenes falsas que circularon por las redes sociales, acumulando millones de impresiones.
La IA sigue influyendo en el discurso político, y crece la preocupación por su potencial para perturbar de forma tangible los procesos democráticos.
Hemos visto numerosos ejemplos de falsificaciones profundas de temática políticaa menudo se utilizan para suscitar polémicas o difundir información errónea. En un incidente reciente, un avatar de IA del ex Primer Ministro de Pakistán declarar una victoria electoral antes del recuento final.
Sam Altman, CEO de OpenAI, discutió la postura de su compañía sobre las falsificaciones profundas a principios de este año, declarando: "Lo que más me preocupa es que con las nuevas capacidades con IA ... habrá mejores deepfakes que en 2020."
OpenAI ha comenzado añadir metadatos especiales a las imágenes creado con DALL-E 3 para ayudar a plataformas y usuarios a identificar contenidos de IA.
Meta también mejoró su juego en identificar contenidos generados por IA a través de sus plataformas.
Por ahora, ningún método es infalible.
