En dybt falsk video med Kari Lake, skabt af det digitale nyhedsmedie Arizona Agenda, dukkede op på nettet.
I videoen støtter en AI-genereret sø Arizona Agenda og siger: "Abonner på Arizona Agenda for at få hårdtslående rigtige nyheder."
Derefter leverer den et budskab om AI's rolle i valget: "Og en forsmag på den skræmmende kunstige intelligens, der kommer din vej i det næste valg, som denne video, der er en AI-deepfake, som Arizona Agenda har lavet for at vise dig, hvor god denne teknologi er ved at blive."
Videoen snød selv Hank Stephenson, Arizona Agendas medstifter og journalist, som indrømmede: "Da vi begyndte at lave det her, troede jeg, at det ville være så dårligt, at det ikke ville snyde nogen, men jeg blev blæst bagover."
Selv om hensigten med videoen måske var godartet, gav den et spektakulært bagslag. Lakes team reagerede med et brev om ophør og afvisning og krævede, at videoerne blev fjernet fra alle platforme med det samme. De advarede om, at manglende overholdelse ville resultere i en retssag.
På trods af dette juridiske pres afslørede Stephenson, at han rådførte sig med advokater om, hvordan han skulle reagere. Han mener, at disse dybe forfalskninger er vigtige læringsværktøjer, og siger: "At bekæmpe denne nye bølge af teknologisk desinformation i denne valgperiode er op til os alle."
Du kan se videoen nedenfor. I beskrivelsen står der: "Dette er en dybt falsk video af Kari Lake. Den er IKKE ægte, og den blev skabt uden fru Lakes tilladelse. Kari Lake støtter ikke vores publikation på nogen måde."
En fair kommentar? Muligvis, men at lave selvpromoverende deep fakes af folk uden deres tilladelse er ikke en god måde at gøre det på.
Som en kommentator på Reddit sagde: "Det er ligegyldigt, hvem det er - deepfakes, der er lavet for at bedrage folk i forhold til politik, er farlige og forkerte."
Problemet rækker ud over de enkelte tilfælde, som det ses på den bredere politiske arena. Donald Trump selv har tidligere beskyldt modstandere for at bruge AI-genereret indhold mod hamDet viser, at deep fakes både er et våben og en sårbarhed.
Misbrug af AI ved valg er en international tendens, der rammer lande fra Slovakiet til Indonesien. Digitale taktikker til at påvirke politiske resultater gennem bedrag er blevet mere forskelligartede og realistiske.
Forordninger, herunder Den føderale kommunikationskommission (FTC) Forbud mod visse AI-genererede robocalls og dannelse af en tværpolitisk taskforce, der skal undersøge AI-regulering, er skridt i retning af at tackle deep fakes.
Men da AI-teknologien udvikler sig hurtigt, har FEC endnu ikke fastlagt regler for AI i politiske annoncer.
AI bevæger sig hurtigere end lovgiverne, og den næste kontrovers er sandsynligvis nært forestående.
