En falsk video med Kari Lake, laget av det digitale nyhetsmediet Arizona Agenda, dukket opp på nettet.
I videoen støtter en AI-generert Lake Arizona Agenda og sier: "Abonner på Arizona Agenda for å få ekte nyheter."
Deretter leverer den et budskap om AIs rolle i valg: "Og en forhåndsvisning av den skremmende kunstige intelligensen som kommer din vei i neste valg, som denne videoen, som er en AI-deepfake som Arizona Agenda har laget for å vise deg hvor god denne teknologien begynner å bli."
Videoen lurte til og med Hank Stephenson, Arizona Agendas medgrunnlegger og journalist, som innrømmet: "Da vi begynte å gjøre dette, trodde jeg at det kom til å være så dårlig at det ikke ville lure noen, men jeg ble helt overveldet."
Videoen, som kanskje hadde en godartet intensjon, slo spektakulært tilbake. Lakes-teamet svarte med et brev der de krevde at videoene ble fjernet fra alle plattformer umiddelbart. De advarte om at manglende etterlevelse ville føre til rettslige skritt.
Til tross for dette juridiske presset avslørte Stephenson at han rådførte seg med advokater om hvordan han skulle reagere. Han mener at disse dype forfalskningene er viktige læringsverktøy, og sier: "Å bekjempe denne nye bølgen av teknologisk desinformasjon i denne valgsyklusen er opp til oss alle."
Du kan se videoen nedenfor. I beskrivelsen står det: "Dette er en dypt falsk video av Kari Lake. Den er IKKE ekte, og den ble laget uten tillatelse fra Kari Lake. Kari Lake støtter ikke vår publikasjon på noen måte."
En rimelig kommentar? Muligens, men å lage selvpromoterende, dype forfalskninger av folk uten deres tillatelse er ikke en god måte å gjøre det på.
Som en kommentator på Reddit sa: "Det spiller ingen rolle hvem det er - deepfakes laget for å lure folk når det gjelder politikk er farlig og galt."
Problemet strekker seg lenger enn til enkelttilfeller, noe vi også ser på den politiske arenaen. Donald Trump selv har tidligere anklaget motstandere for å bruke AI-generert innhold mot hamog viser hvordan dype forfalskninger både er et våpen og en sårbarhet.
Misbruk av kunstig intelligens i valg er en internasjonal trend som rammer land fra Slovakia til Indonesia. Digitale taktikker for å påvirke politiske utfall gjennom bedrag har blitt mer mangfoldige og realistiske.
Forordninger, inkludert Den føderale kommunikasjonskommisjonen (FTC) som forbyr visse AI-genererte robotsamtaler og oppretter en tverrpolitisk arbeidsgruppe for å utrede AI-regulering, viser at det er tatt skritt i retning av å bekjempe deep fakes.
AI-teknologien utvikler seg raskt, men FEC har ennå ikke fastsatt regler for AI i politiske annonser.
AI utvikler seg raskere enn lovgiverne, og den neste kontroversen er sannsynligvis nært forestående.
