En djupt fejkad video med Kari Lake, skapad av det digitala nyhetsföretaget Arizona Agenda, dök upp på nätet.
I videon stöder en AI-genererad Lake Arizona Agenda och säger: "Prenumerera på Arizona Agenda för hårda riktiga nyheter."
Den levererar sedan ett meddelande om AI: s roll i valet: "Och en förhandsvisning av den skrämmande artificiella intelligensen som kommer din väg i nästa val, som den här videon, som är en AI deepfake som Arizona Agenda gjorde för att visa dig hur bra den här tekniken blir."
Videon lurade till och med Hank Stephenson, Arizona Agendas medgrundare och journalist, som erkände: "När vi började göra det här trodde jag att det skulle vara så dåligt att det inte skulle lura någon, men jag blev helt överväldigad."
Videon, som kanske var godartad i sin avsikt, slog tillbaka på ett spektakulärt sätt. Lakes team svarade med ett brev där de krävde att videorna omedelbart skulle tas bort från alla plattformar. De varnade för att om de inte följde uppmaningen skulle det leda till rättsliga åtgärder.
Trots dessa juridiska påtryckningar avslöjade Stephenson att han rådfrågat advokater om hur han skulle svara. Han anser att dessa djupa förfalskningar är viktiga inlärningsverktyg och säger: "Att bekämpa denna nya våg av teknisk desinformation under denna valcykel är upp till oss alla."
Du kan se videon nedan. Beskrivningen säger: "Det här är en djupt falsk video av Kari Lake. Den är INTE verklig och den skapades utan Ms. Lakes tillstånd. Ms Lake stödjer inte vår publikation på något sätt."
En rättvis kommentar? Möjligen, men att skapa självreklamerande djupa förfalskningar av människor utan deras tillstånd är inte ett bra sätt att göra det på.
Som en kommentator på Reddit sa: "Det spelar ingen roll vem det är - deepfakes som görs för att lura människor när det gäller politik är farligt och fel."
Frågan sträcker sig bortom enskilda fall, vilket kan ses på den bredare politiska arenan. Donald Trump själv har tidigare anklagat motståndare för att använda AI-genererat innehåll mot honomoch visar hur djupa förfalskningar är både ett vapen och en sårbarhet.
AI-missbruk i val är en internationell trend som drabbar länder från Slovakien till Indonesien. De digitala taktikerna för att påverka politiska resultat genom bedrägeri har blivit mer varierade och realistiska.
Förordningar, inklusive Federal Communications Commission (FTC) förbjuder vissa AI-genererade robotsamtal och bildar en arbetsgrupp för att utforska AI-reglering, visar på steg mot att ta itu med djupa förfalskningar.
AI-tekniken utvecklas snabbt, men FEC har ännu inte fastställt några regler för AI i politiska annonser.
AI utvecklas snabbare än lagstiftarna, och nästa kontrovers är förmodligen nära förestående.
