Elon Musk delte en video på X, som efterligner Kamala Harris' stemme, og udtrykte bekymring over den effekt, som AI deep fakes kan have på det kommende valg i USA.
Musk har offentligt støttet Donald Trump i hans forsøg på at få en ny periode, og han har brugt sin X-platform til at dele sine politiske og sociale synspunkter med sine 191 millioner følgere.
Videoen viste ægte billeder fra Harris' kampagneannoncer, men voice-overen bruger en AI-genereret klon af hendes stemme. Stemmeimitationen er imponerende præcis, da den får 'Harris' til at sige: "Jeg, Kamala Harris, er jeres demokratiske præsidentkandidat, fordi Joe Biden endelig afslørede sin senilitet i debatten."
Da skaberen af videoen, en YouTuber kendt som Mr Reagan, lagde videoen ud på X og YouTube, oplyste han, at det var en parodi. Da Musk lagde den op igen, sagde han blot: "Det her er fantastisk" og tilføjede en grinende emoji, men han oplyste ikke, at videoen var manipuleret og ment som en parodi.
Musk er blevet kritiseret for at dele den AI-manipulerede video med forudsigelig forargelse fra demokraterne. Californiens guvernør Gavin Newsom sagde, at hans lovforslag "Safe and Secure Innovation for Frontier Artificial Intelligence Models", også kendt som SB 1047, vil imødegå de risici, der er forbundet med AI-manipulerede videoer.
I X's politikker står der, at "Du må ikke dele syntetiske, manipulerede eller ude af kontekst medier, der kan bedrage eller forvirre folk og føre til skade ("vildledende medier")." Vilkårene siger, at memes og satire ikke overtræder disse politikker, "forudsat at de ikke skaber betydelig forvirring om mediets ægthed."
Musk følte tydeligvis, at videoens satiriske karakter var indlysende.
Jeg tjekkede med den berømte verdensautoritet, professor Suggon Deeznutz, og han sagde, at parodier er lovlige i USA 🤷♂️ https://t.co/OCBewC3XYD
- Elon Musk (@elonmusk) 29. juli 2024
Ikke alle er enige i, at de millioner af mennesker, der har set videoen, ville forstå, at det er en AI-manipuleret joke.
Rob Weissman, medformand for interesseorganisationen Public Citizen, sagde: "Jeg tror ikke, at det er en joke. Jeg er sikker på, at de fleste mennesker, der ser på det, ikke tror, det er en joke. Kvaliteten er ikke fantastisk, men den er god nok. Og netop fordi det bygger på allerede eksisterende temaer, som har cirkuleret omkring hende, vil de fleste mennesker tro, at det er ægte."
I sidste uge udgav FCC et forslag til en regel, der kræver offentliggørelse af AI-genereret indhold i politiske reklamer på radio og tv.
Weissman sagde: "Forbrugerne har ret til at vide, hvornår der bruges AI-værktøjer i de politiske reklamer, de ser i æteren. Det er det fornuftige grundlag for FCC's hårdt tiltrængte forslag til regler om gennemsigtighed i AI-udsendelser.
"Vi er på vej mod valg, som kan blive forvrænget eller endda afgjort af politiske deepfakes. Men det er en dystopi, der helt kan undgås, hvis myndighederne blot kræver, at det oplyses, når AI bruges i politisk kommunikation, herunder i tv- og radioreklamer."
Var Mr Reagan-videoen en politisk reklame, en joke eller lidt af begge dele?
Politisk satire har eksisteret i århundreder, men tegneserier eller en standup-komiker, der laver en imitation, er nemme at skelne fra den ægte vare. Videoer som den, Musk delte, slører linjerne betydeligt.
I takt med at AI-genererede stemmer og videoer bliver bedre og bedre, kan man forvente, at appetitten på politisk spilfægteri og på at gemme sig bag "det var bare for sjov"-forsvaret vil stige.
