Elon Musk a partagé sur X une vidéo qui imite la voix de Kamala Harris, soulevant des inquiétudes quant à l'effet que les "deep fakes" de l'IA pourraient avoir sur les prochaines élections américaines.
Musk a publiquement soutenu Donald Trump dans sa candidature à un second mandat et a utilisé sa plateforme X pour partager ses opinions politiques et sociales avec ses 191 millions d'adeptes.
La vidéo montre des images réelles tirées des publicités de la campagne de Mme Harris, mais la voix off utilise un clone de sa voix généré par l'intelligence artificielle. L'imitation de la voix est d'une précision impressionnante puisqu'elle fait dire à "Harris" : "Moi, Kamala Harris, je suis votre candidate démocrate à la présidence parce que Joe Biden a finalement dévoilé sa sénilité lors du débat".
Lorsque l'auteur de la vidéo, un YouTubeur connu sous le nom de Mr Reagan, l'a postée sur X et YouTube, il a indiqué qu'il s'agissait d'une parodie. Lorsque M. Musk l'a repostée, il a simplement dit "C'est incroyable" et a ajouté un émoji de rire, mais sans préciser que la vidéo avait été manipulée et qu'elle était destinée à être parodiée.
M. Musk a été critiqué pour avoir partagé cette vidéo manipulée par l'IA, ce qui a suscité l'indignation prévisible des démocrates. Le gouverneur de Californie, Gavin Newsom, a déclaré que son projet de loi "Safe and Secure Innovation for Frontier Artificial Intelligence Models", également connu sous le nom de SB 1047, abordera les risques inhérents aux vidéos manipulées par l'IA.
Les règles de X stipulent que "vous ne pouvez pas partager des médias synthétiques, manipulés ou hors contexte susceptibles de tromper ou d'embrouiller les gens et de leur causer du tort ("médias trompeurs")". Les conditions précisent que les mèmes et la satire n'enfreignent pas ces politiques "à condition qu'ils ne créent pas de confusion significative quant à l'authenticité du média".
Musk a manifestement estimé que la nature satirique de la vidéo était évidente.
J'ai vérifié auprès d'une autorité mondiale renommée, le professeur Suggon Deeznutz, et il m'a dit que la parodie était légale en Amérique 🤷♂️ https://t.co/OCBewC3XYD
- Elon Musk (@elonmusk) 29 juillet 2024
Tout le monde n'est pas d'accord pour dire que les millions de personnes qui ont regardé la vidéo ont compris qu'il s'agissait d'une blague manipulée par l'IA.
Rob Weissman, coprésident du groupe de défense Public Citizen, a déclaré : "Je ne pense pas qu'il s'agisse manifestement d'une plaisanterie. Je suis certain que la plupart des gens qui la regardent ne pensent pas qu'il s'agit d'une blague. La qualité n'est pas excellente, mais elle est suffisante. Et c'est précisément parce qu'elle alimente des thèmes préexistants qui ont circulé autour d'elle que la plupart des gens croiront que c'est vrai."
La semaine dernière, la FCC a publié une proposition de règlement exigeant la divulgation du contenu généré par l'IA dans les publicités politiques diffusées à la radio et à la télévision.
M. Weissman a déclaré : "Les consommateurs ont le droit de savoir quand les outils d'IA sont utilisés dans les publicités politiques qu'ils voient sur les ondes. Il s'agit là d'une base de bon sens pour les règles proposées par la FCC, dont on a désespérément besoin, sur la transparence de la diffusion de l'IA.
Nous nous dirigeons vers des élections qui pourraient être faussées, voire décidées, par des "deepfakes" politiques. Pourtant, il s'agit d'une dystopie tout à fait évitable, si les régulateurs exigent simplement la divulgation des informations lorsque l'IA est utilisée dans les communications politiques, y compris dans les publicités télévisées et radiodiffusées."
La vidéo de M. Reagan était-elle une publicité politique, une blague ou un peu des deux ?
La satire politique existe depuis des siècles, mais il est facile de distinguer les dessins animés ou une imitation d'un humoriste de la réalité. Des vidéos comme celle que Musk a partagée brouillent considérablement les pistes.
À mesure que les voix et les vidéos générées par l'IA s'améliorent, il faut s'attendre à ce que l'appétit pour les manœuvres politiques et la défense "Je ne faisais que plaisanter" s'accroisse.
