Elon Musk ha condiviso su X un video che imita la voce di Kamala Harris, sollevando preoccupazioni sull'effetto che i falsi profondi dell'intelligenza artificiale potrebbero avere sulle prossime elezioni statunitensi.
Musk ha appoggiato pubblicamente Donald Trump nella sua corsa per un secondo mandato e ha usato la sua piattaforma X per condividere le sue opinioni politiche e sociali con i suoi 191 milioni di follower.
Il video mostrava immagini reali tratte dagli spot della campagna di Harris, ma la voce fuori campo utilizzava un clone della sua voce generato dall'intelligenza artificiale. L'imitazione della voce è incredibilmente accurata: "Io, Kamala Harris, sono il vostro candidato democratico alla presidenza perché Joe Biden ha finalmente rivelato la sua senilità durante il dibattito".
Quando il creatore del video, uno YouTuber noto come Mr Reagan, ha pubblicato il video su X e YouTube ha rivelato che si trattava di una parodia. Quando Musk l'ha ripubblicato ha semplicemente detto: "È incredibile" e ha aggiunto un'emoji che rideva, ma non ha rivelato che il video era stato manipolato e inteso come una parodia.
Musk è stato criticato per aver condiviso il video manipolato dall'intelligenza artificiale, con la prevedibile indignazione dei democratici. Il governatore della California Gavin Newsom ha dichiarato che la sua legge "Safe and Secure Innovation for Frontier Artificial Intelligence Models", nota anche come SB 1047, affronterà i rischi inerenti ai video manipolati dall'IA.
Le politiche di X stabiliscono che "non è consentito condividere media sintetici, manipolati o fuori contesto che possano ingannare o confondere le persone e causare danni ("media ingannevoli")". I termini affermano che i meme e la satira non violano queste politiche "a condizione che non causino una confusione significativa sull'autenticità dei media".
Musk ha ovviamente ritenuto che la natura satirica del video fosse evidente.
Ho consultato la famosa autorità mondiale, il professor Suggon Deeznutz, e mi ha detto che la parodia è legale in America 🤷♂️. https://t.co/OCBewC3XYD
- Elon Musk (@elonmusk) 29 luglio 2024
Non tutti sono d'accordo sul fatto che i milioni di persone che hanno visto il video abbiano capito che si tratta di uno scherzo manipolato dall'intelligenza artificiale.
Rob Weissman, co-presidente del gruppo di difesa Public Citizen, ha dichiarato: "Non credo che sia ovviamente uno scherzo. Sono certo che la maggior parte delle persone che lo guardano non pensano che sia uno scherzo. La qualità non è eccelsa, ma è abbastanza buona. E proprio perché si inserisce in temi preesistenti che sono circolati intorno a lei, la maggior parte delle persone crederà che sia reale".
La scorsa settimana la FCC ha pubblicato una proposta di regolamento che richiede la divulgazione dei contenuti generati dall'intelligenza artificiale negli annunci politici alla radio e in TV.
Weissman ha dichiarato: "I consumatori hanno il diritto di sapere quando gli strumenti di IA vengono utilizzati negli annunci politici che vedono in onda. Questa è la base di buon senso per le norme proposte dalla FCC sulla trasparenza delle trasmissioni di IA, di cui c'è disperata necessità".
"Stiamo andando verso elezioni che potrebbero essere distorte, o addirittura decise, da deepfakes politici. Eppure si tratta di una distopia del tutto evitabile, se le autorità di regolamentazione si limitano a richiedere la divulgazione delle informazioni quando l'IA viene utilizzata nelle comunicazioni politiche, compresi gli annunci televisivi e radiofonici".
Il video di Mr Reagan era uno spot politico, uno scherzo o un po' entrambe le cose?
La satira politica esiste da secoli, ma è facile distinguere le vignette o le imitazioni di un comico dalla realtà. I video come quello che Musk ha condiviso offuscano notevolmente le linee di demarcazione.
Con il continuo miglioramento delle voci e dei video generati dall'intelligenza artificiale, ci si aspetta che la voglia di fare politica e di nascondersi dietro la difesa "stavo solo scherzando" aumenti.
