Midjourney, pionnier de la génération d'images par l'IA, envisage d'interdire complètement les images de Joe Biden et de Donald Trump générées par l'IA à l'approche des élections américaines de 2024.
Cette mesure vise à éviter que la plateforme ne devienne un vecteur de désinformation à l'approche des élections de cette année.
Le PDG de Midjourney, David Holz, a franchement exprimé sa position sur le contenu politique de leur plateforme, en déclarant : "Je ne sais pas à quel point je me soucie du discours politique pour l'année prochaine sur notre plateforme".
M. Holz a également fait part, avec humour, de ses sentiments mitigés quant à la production d'images de Donald Trump : "Je sais qu'il est amusant de faire des photos de Trump - je fais des photos de Trump. Trump est esthétiquement très intéressant. Cependant, il est probablement préférable de ne pas le faire, de se retirer un peu pendant cette élection. Nous verrons bien."
La conversation autour des images générées par l'IA, en particulier dans les contextes politiques, s'est intensifiée, notamment en raison d'une récente controverse autour de l'utilisation de l'IA. Des images explicites de Taylor Swift générées par l'IA.
Taylor Swift a été la cible d'une série de fausses images qui ont circulé sur les médias sociaux, accumulant des millions d'impressions.
L'IA continue d'influencer le discours politique et les inquiétudes grandissent quant à sa capacité à perturber concrètement les processus démocratiques.
Nous avons vu de nombreux exemples de Les deep fakes à thème politiqueL'IA est souvent utilisée pour déclencher des controverses ou diffuser des informations erronées. Un incident récent a vu un avatar IA de l'ex-Premier ministre pakistanais déclarer une victoire électorale avant le décompte final.
Sam Altman, PDG d'OpenAI, a évoqué la position de son entreprise sur les deep fakes au début de l'année, en déclarant : "Ce qui me préoccupe le plus, c'est qu'avec les nouvelles capacités de l'IA [...] il y aura de meilleurs deep fakes qu'en 2020."
L'OpenAI a commencé ajout de métadonnées spéciales aux images créé avec DALL-E 3 pour aider les plateformes et les utilisateurs à identifier le contenu de l'IA.
Meta a également amélioré son jeu en identifier le contenu généré par l'IA sur l'ensemble de leurs plateformes.
À l'heure actuelle, aucune méthode n'est infaillible.
