Elon Musk delade en video på X som efterliknar Kamala Harris röst och väckte oro över den effekt som AI deep fakes kan ha på det kommande valet i USA.
Musk har offentligt stött Donald Trump i hans försök till en andra mandatperiod och har använt sin X-plattform för att dela med sig av sina politiska och sociala åsikter till sina 191 miljoner följare.
Videon visade riktiga bilder från Harris kampanjannonser men voice-over använder en AI-genererad klon av hennes röst. Röstimitationen är imponerande exakt eftersom den får "Harris" att säga "Jag, Kamala Harris, är er demokratiska presidentkandidat eftersom Joe Biden till slut avslöjade sin senilitet i debatten."
När videons skapare, en YouTuber känd som Mr Reagan, lade upp videon på X och YouTube avslöjade han att det var en parodi. När Musk lade upp den på nytt sade han bara "Det här är fantastiskt" och lade till en skrattande emoji, men han avslöjade inte att videon var manipulerad och avsedd som en parodi.
Musk har kritiserats för att ha delat den AI-manipulerade videon med förutsägbar upprördhet från demokrater. Kaliforniens guvernör Gavin Newsom sa att hans lagförslag "Safe and Secure Innovation for Frontier Artificial Intelligence Models", även känt som SB 1047, kommer att ta itu med de risker som finns i AI-manipulerade videor.
X:s policy anger att "Du får inte dela syntetisk, manipulerad eller ur kontext media som kan vilseleda eller förvirra människor och leda till skada ("vilseledande media")." Villkoren anger att memes och satir inte bryter mot dessa policyer "förutsatt att dessa inte orsakar betydande förvirring om mediets äkthet."
Musk ansåg uppenbarligen att videons satiriska karaktär var självklar.
Jag kollade med den välkända världsauktoriteten, professor Suggon Deeznutz, och han sa att parodi är lagligt i Amerika 🤷♂️ https://t.co/OCBewC3XYD
- Elon Musk (@elonmusk) 29 juli 2024
Alla håller inte med om att de miljontals människor som tittade på videon skulle förstå att det är ett AI-manipulerat skämt.
Rob Weissman, vice ordförande för intresseorganisationen Public Citizen, sade: "Jag tror inte att det är ett uppenbart skämt. Jag är säker på att de flesta som tittar på det inte tror att det är ett skämt. Kvaliteten är inte fantastisk, men den är tillräckligt bra. Och just för att det bygger på redan existerande teman som har cirkulerat kring henne kommer de flesta att tro att det är på riktigt."
Förra veckan publicerade FCC ett förslag till regel som kräver redovisning av AI-genererat innehåll i politiska annonser på radio och TV.
Weissman sa: "Konsumenterna har rätt att veta när AI-verktyg används i de politiska annonser som de ser i etern. Det är grunden för sunt förnuft för FCC: s desperat nödvändiga föreslagna regler om AI-sändningstransparens.
"Vi är på väg mot val som kan komma att snedvridas, eller till och med avgöras, av politiska deepfakes. Detta är dock en dystopi som helt kan undvikas om tillsynsmyndigheterna helt enkelt kräver information när AI används i politisk kommunikation, inklusive i TV- och radioreklam."
Var Mr Reagan-videon en politisk annons, ett skämt eller lite av varje?
Politisk satir har funnits i århundraden, men tecknade serier eller en standup-komiker som gör en imitation är lätta att skilja från den äkta varan. Videor som den som Musk delade suddar ut linjerna avsevärt.
I takt med att AI-genererade röster och videor blir allt bättre kan man förvänta sig att aptiten på politiskt spel och att gömma sig bakom försvaret "jag skojade bara" kommer att öka.
