Een valse video met Kari Lake, gemaakt door Arizona Agenda, is online verschenen.
In de video onderschrijft een door AI gegenereerde Lake de Arizona Agenda met de tekst: "Abonneer je op de Arizona Agenda voor echt nieuws."
Vervolgens komt er een bericht over de rol van AI bij verkiezingen: "En een voorproefje van de angstaanjagende kunstmatige intelligentie die jullie kant op komt bij de volgende verkiezingen, zoals deze video, die een AI deepfake is die de Arizona Agenda heeft gemaakt om jullie te laten zien hoe goed deze technologie wordt."
De video bedroog zelfs Hank Stephenson, de medeoprichter en journalist van Arizona Agenda, die toegaf: "Toen we hiermee begonnen, dacht ik dat het zo slecht zou zijn dat niemand het zou begrijpen, maar ik werd weggeblazen."
De video, hoewel misschien goedaardig bedoeld, had een spectaculaire averechtse uitwerking. Het Lakes team reageerde met een dwangbrief, waarin werd geëist dat de video's onmiddellijk van alle platforms zouden worden verwijderd. Ze waarschuwden dat er juridische stappen zouden volgen als ze zich hier niet aan zouden houden.
Ondanks deze juridische druk onthulde Stephenson dat hij met advocaten heeft overlegd hoe te reageren. Hij gelooft dat deze diepe vervalsingen vitale leermiddelen zijn en stelt: "Het bestrijden van deze nieuwe golf van technologische desinformatie is een zaak van ons allemaal."
Je kunt de video hieronder bekijken. In de beschrijving staat: "Dit is een diepe nepvideo van Kari Lake. Het is NIET echt en het is gemaakt zonder toestemming van Ms. Lake. Ms. Lake onderschrijft onze publicatie op geen enkele manier."
Een eerlijke opmerking? Mogelijk, maar het maken van zelfpromotievervalsingen van mensen zonder hun toestemming is geen geweldige manier om dat te doen.
Zoals een commenter op Reddit zei: "Het maakt niet uit wie het is - deepfakes maken om mensen te misleiden op het gebied van politiek is gevaarlijk en verkeerd."
De kwestie gaat verder dan individuele gevallen, zoals te zien is in de bredere politieke arena. Donald Trump zelf heeft eerder tegenstanders beschuldigd van het gebruiken van AI-gegenereerde inhoud tegen hemen laat zien hoe deep fakes zowel een wapen als een kwetsbaarheid zijn.
AI-misbruik bij verkiezingen is een internationale trend, die landen van Slowakije tot Indonesië treft. Digitale tactieken om politieke resultaten te beïnvloeden door middel van misleiding zijn diverser en realistischer geworden.
Verordeningen, waaronder de Federal Communications Commission (FTC) Het verbieden van bepaalde door AI gegenereerde robocalls en het vormen van een tweepartijdige taskforce om AI-regulering te onderzoeken, duiden op stappen in de richting van het aanpakken van deep fakes.
Maar omdat AI-technologie zich snel ontwikkelt, heeft de FEC nog geen regels opgesteld voor AI in politieke advertenties.
AI gaat sneller dan wetgevers en de volgende controverse staat waarschijnlijk voor de deur.
