Une vidéo truquée mettant en scène Kari Lake, créée par le média numérique Arizona Agenda, a fait surface en ligne.
Dans la vidéo, un lac généré par l'IA soutient l'Arizona Agenda en déclarant : "Abonnez-vous à l'Arizona Agenda pour de vraies informations percutantes".
Il délivre ensuite un message sur le rôle de l'IA dans les élections : "Et un aperçu de la terrifiante intelligence artificielle qui vous attend lors des prochaines élections, comme cette vidéo, qui est un deepfake d'IA que l'Arizona Agenda a réalisé pour vous montrer à quel point cette technologie est en train de devenir performante."
La vidéo a même trompé Hank Stephenson, cofondateur et journaliste d'Arizona Agenda, qui a admis : "Lorsque nous avons commencé à faire cette vidéo, je pensais qu'elle serait si mauvaise qu'elle ne tromperait personne, mais j'ai été époustouflé".
La vidéo, dont l'intention était peut-être bénigne, s'est retournée contre elle de manière spectaculaire. L'équipe de Lakes a répondu par une lettre de cessation et de désistement, exigeant que les vidéos soient immédiatement retirées de toutes les plateformes. Ils ont averti que le non-respect de cette demande entraînerait des poursuites judiciaires.
Malgré cette pression juridique, M. Stephenson a révélé qu'il avait consulté des avocats pour savoir comment réagir. Il estime que ces faux sont des outils d'apprentissage essentiels et déclare : "La lutte contre cette nouvelle vague de désinformation technologique au cours de ce cycle électoral est l'affaire de tous".
Vous pouvez visionner la vidéo ci-dessous. La description indique : "Il s'agit d'une fausse vidéo de Kari Lake. Elle n'est PAS réelle et a été créée sans l'autorisation de Mme Lake. Mme Lake ne soutient en aucun cas notre publication."
Un commentaire juste ? C'est possible, mais créer des contrefaçons de personnes à des fins d'autopromotion sans leur permission n'est pas une bonne façon de procéder.
Comme l'a dit un commentateur sur Reddit, "peu importe de qui il s'agit - les deepfakes créés pour tromper les gens en termes de politique sont dangereux et répréhensibles".
Le problème va au-delà des cas individuels, comme on le voit dans l'arène politique au sens large. Donald Trump lui-même a déjà accusé ses adversaires d'utiliser des Contenu généré par l'IA contre luiLe projet de loi sur l'égalité entre les femmes et les hommes a été adopté par le Parlement européen, ce qui montre que les simulations de profondeur sont à la fois une arme et une vulnérabilité.
Utilisation abusive de l'IA dans les élections est une tendance internationale qui touche des pays allant de la Slovaquie à l'Indonésie. Les tactiques numériques visant à influencer les résultats politiques par la tromperie sont devenues plus diverses et plus réalistes.
Les règlements, y compris le Commission fédérale des communications (FTC) l'interdiction de certains robocalls générés par l'IA et la création d'un groupe de travail bipartisan chargé d'étudier la réglementation de l'IA, sont autant d'avancées dans la lutte contre les "deep fakes".
Toutefois, la technologie de l'IA progressant rapidement, la FEC n'a pas encore établi de règles régissant l'utilisation de l'IA dans les publicités politiques.
L'IA progresse plus vite que les législateurs et la prochaine controverse est probablement imminente.
