Elon Musk deelde een video op X waarin de stem van Kamala Harris wordt nagebootst en uitte zijn bezorgdheid over het effect dat AI-dieptemakers zouden kunnen hebben op de komende Amerikaanse verkiezingen.
Musk heeft Donald Trump publiekelijk gesteund in zijn streven naar een tweede termijn en heeft zijn X-platform gebruikt om zijn politieke en sociale standpunten te delen met zijn 191 miljoen volgers.
De video toonde echte beelden van Harris' campagneadvertenties, maar de voice-over gebruikte een AI-gegenereerde kloon van haar stem. De stemimitatie is indrukwekkend accuraat, want 'Harris' zegt: "Ik, Kamala Harris, ben jullie Democratische presidentskandidaat omdat Joe Biden eindelijk zijn seniliteit heeft laten zien tijdens het debat."
Toen de maker van de video, een YouTuber die bekend staat als Mr Reagan, de video op X en YouTube plaatste, maakte hij bekend dat het een parodie was. Toen Musk de video opnieuw plaatste, zei hij simpelweg: "Dit is geweldig" en voegde een lachende emoji toe, maar niet dat de video was gemanipuleerd en bedoeld als parodie.
Musk is bekritiseerd voor het delen van de met AI gemanipuleerde video, met de voorspelbare verontwaardiging van Democraten. Gouverneur Gavin Newsom van Californië zei dat zijn wetsvoorstel "Safe and Secure Innovation for Frontier Artificial Intelligence Models", ook bekend als SB 1047, de risico's zal aanpakken die inherent zijn aan met AI gemanipuleerde video's.
In het beleid van X staat dat "je geen synthetische, gemanipuleerde of uit de context gerukte media mag delen die mensen kunnen misleiden of verwarren en tot schade kunnen leiden ("misleidende media")." In de voorwaarden staat dat memes en satire niet in strijd zijn met dit beleid "op voorwaarde dat deze geen significante verwarring veroorzaken over de authenticiteit van de media."
Musk vond duidelijk dat de satirische aard van de video vanzelfsprekend was.
Ik heb het nagevraagd bij de bekende wereldautoriteit, professor Suggon Deeznutz, en hij zei dat parodie legaal is in Amerika 🤷♂️ https://t.co/OCBewC3XYD
- Elon Musk (@elonmusk) 29 juli 2024
Niet iedereen is het ermee eens dat de miljoenen mensen die de video hebben bekeken zouden begrijpen dat het een door AI gemanipuleerde grap is.
Rob Weissman, medevoorzitter van de belangenorganisatie Public Citizen, zei: "Ik denk niet dat het duidelijk een grap is. Ik weet zeker dat de meeste mensen die ernaar kijken niet denken dat het een grap is. De kwaliteit is niet geweldig, maar goed genoeg. En juist omdat het inspeelt op reeds bestaande thema's die rondom haar de ronde doen, zullen de meeste mensen geloven dat het echt is."
Vorige week publiceerde de FCC een voorgestelde regel die openbaarmaking van AI-gegenereerde inhoud in politieke advertenties op radio en tv verplicht stelt.
Weissman zei: "Consumenten hebben het recht om te weten wanneer AI-hulpmiddelen worden gebruikt in de politieke advertenties die ze in de ether zien. Dat is het gezond verstand dat ten grondslag ligt aan de door de FCC voorgestelde regels voor transparantie van AI-uitzendingen, die hard nodig zijn.
"We stevenen af op verkiezingen die vervormd of zelfs beslist kunnen worden door politieke deepfakes. Toch is dit een volledig vermijdbare dystopie, als regelgevers gewoon openbaarmaking eisen wanneer AI wordt gebruikt in politieke communicatie, inclusief in tv- en radioreclames."
Was de video van Mr Reagan een politieke advertentie, een grap of een beetje van allebei?
Politieke satire bestaat al eeuwen, maar cartoons of een standup comic die een impressie maakt, zijn gemakkelijk te onderscheiden van het echte werk. Video's zoals die van Musk vervagen de grenzen aanzienlijk.
Als AI-gegenereerde stemmen en video's steeds beter worden, verwacht dan ook dat de honger naar politieke spelletjes en het verschuilen achter het 'ik maakte maar een grapje'-verweer zal toenemen.
