Elon Musk delte en video på X som etterligner stemmen til Kamala Harris, og uttrykte bekymring over effekten AI deep fakes kan ha på det kommende valget i USA.
Musk har offentlig støttet Donald Trump i hans forsøk på en ny periode, og har brukt X-plattformen sin til å dele sine politiske og sosiale synspunkter med sine 191 millioner følgere.
Videoen viste ekte bilder fra Harris' kampanjeannonser, men voice-overen bruker en AI-generert klone av stemmen hennes. Stemmeimitasjonen er imponerende nøyaktig, ettersom "Harris" sier: "Jeg, Kamala Harris, er Demokratenes presidentkandidat fordi Joe Biden endelig avslørte sin senilitet i debatten."
Da produsenten av videoen, en YouTuber kjent som Mr Reagan, la ut videoen på X og YouTube, opplyste han om at den var en parodi. Da Musk la den ut på nytt, sa han bare: "Dette er fantastisk" og la til en leende emoji, men uten å opplyse om at videoen var manipulert og ment som en parodi.
Musk har blitt kritisert for å ha delt den AI-manipulerte videoen med forutsigbar opprør fra demokrater. Californias guvernør Gavin Newsom sa at hans lovforslag "Safe and Secure Innovation for Frontier Artificial Intelligence Models", også kjent som SB 1047, vil ta opp risikoen som ligger i AI-manipulerte videoer.
I Xs retningslinjer står det at "Du kan ikke dele syntetiske, manipulerte eller kontekstløse medier som kan villede eller forvirre folk og føre til skade ("villedende medier")." Vilkårene sier at memes og satire ikke bryter med disse retningslinjene "forutsatt at disse ikke skaper betydelig forvirring om mediets autentisitet".
Musk følte åpenbart at videoens satiriske karakter var åpenbar.
Jeg sjekket med den verdenskjente professor Suggon Deeznutz, og han sa at parodi er lovlig i USA 🤷♂️ https://t.co/OCBewC3XYD
- Elon Musk (@elonmusk) 29. juli 2024
Ikke alle er enige i at de millioner av mennesker som så videoen, ville forstå at det er en AI-manipulert spøk.
Rob Weissman, medpresident i interesseorganisasjonen Public Citizen, sa: "Jeg tror ikke det åpenbart er en spøk. Jeg er sikker på at de fleste som ser på det, ikke antar at det er en spøk. Kvaliteten er ikke god, men den er god nok. Og nettopp fordi det spiller på allerede eksisterende temaer som har sirkulert rundt henne, vil de fleste tro at det er ekte."
I forrige uke offentliggjorde FCC et forslag til en regel som krever offentliggjøring av AI-generert innhold i politisk reklame på radio og TV.
Weissman sa: "Forbrukerne har rett til å få vite når AI-verktøy brukes i de politiske annonsene de ser i eteren. Det er det fornuftige grunnlaget for FCCs sårt tiltrengte forslag til regler for åpenhet om AI-sendinger.
"Vi er på vei mot valg som kan bli forvrengt, eller til og med avgjort, av politiske deepfakes. Men dette er en dystopi som helt kan unngås, hvis myndighetene bare krever offentliggjøring når kunstig intelligens brukes i politisk kommunikasjon, inkludert i TV- og radioreklame."
Var Mr Reagan-videoen en politisk reklame, en spøk eller litt av begge deler?
Politisk satire har eksistert i århundrer, men det er lett å se forskjell på karikaturtegninger eller en standup-komiker som imiterer en ekte vare. Videoer som den Musk delte, gjør grensene betydelig mer uklare.
Etter hvert som AI-genererte stemmer og videoer blir stadig bedre, kan vi forvente at appetitten på politisk spill og det å gjemme seg bak "jeg bare spøkte"-forsvaret vil øke.
