Deep fakes er hurtigt blevet et alvorligt socialt og politisk problem og en mulig trussel mod valgets integritet.
Kort før Slovakiets tætpakkede valg blev en omstridt lydklip dukkede op på de sociale medier, hvor en stemme, der påfaldende ligner Slovakiets progressive partileder, Michal Šimečka, talte om en plan for at manipulere valget.
På grund af opslagets nærhed til afstemningstidspunktet var det en udfordring at advare folk om, at det var falsk.
Ikke længe efter opstod der endnu en kontrovers, da man kunne høre Storbritanniens Labour-leder udstøde skældsord i et lydklip, der blev lagt ud på X, og i det tilhørende indlæg stod der: "Jeg har fået lyd af Keir Starmer, der verbalt overfalder sine medarbejdere på [Labour-partiets] konference," stod der på X-kontoen. "Denne modbydelige bølle er ved at blive vores næste premierminister."
I samme periode blev en TikTok-konto fjernet, efter at den viste sig at være producere falske klip af den fængslede eks-sudanesiske præsident Omar Al-Bashir, hvilket puster til ilden i et land, der allerede er i borgerkrig.
Klippene i alle tre tilfælde havde noget til fælles: De var falske og sandsynligvis skabt med AI.
Mens AI-video og -billeder er allestedsnærværende og udgør deres egne problemer, er falske lydklip sværere at opdage og slipper ofte gennem nettet. Selve stemmerne har en tendens til at være meget autentiske; som Jack Brewster fra NewsGuard understregede: "Obama ser stadig lidt plastikagtig ud, når dårlige skuespillere bruger hans ansigt. Men lyden af hans stemme er ret god - og jeg tror, det er den store forskel her."
I lyset af disse bekymringer foreslog en gruppe senatorer "No Fakes Act", et lovforslag, der sigter mod at straffe dem, der producerer eller deler AI-skabt lyd eller videoer uden den oprindelige persons samtykke.
Som Hany Farid, professor i digital retsvidenskab ved University of California i Berkeley, siger"Det her er ikke hypotetisk. Du taler om vold, du taler om at stjæle valg, du taler om svindel - [det har] konsekvenser i den virkelige verden for enkeltpersoner, for samfund og for demokratier."
Applikationer til stemmekloning har udviklet sig dramatisk, og platforme som Eleven Labs tilbyder værktøjer, der gør det muligt at skabe en "deepfaked" stemme for et nominelt månedligt gebyr på kun $5.
Hany Farid understregede de sociale mediegiganters ansvarlighed og sagde: "De kunne slukke for hanen lige nu, hvis de ville. Men det er dårligt for forretningen."
Kan AI deep fakes virkelig påvirke valget?
Deep fakes har allerede vist deres virkning i den virkelige verden, hvor et falsk billede af en eksplosion i Pentagon tidligere på året fik markederne til at falde midlertidigt, omend kun i nogle få minutter.
Disse falske klip, videoer og videoer truer et allerede skrøbeligt informationslandskab - et landskab, hvor mistanken ofte er stor og marginalerne små.
Selv om det er usædvanligt svært at vurdere den sande effekt af AI deep fakes på den politiske diskurs og stemmeadfærd, sænker det barren for desinformation.
Ben Winters, der er seniorrepræsentant ved Electronic Privacy Information Center, siger: "Graden af tillid vil falde, og det vil blive sværere for journalister og andre, der forsøger at formidle faktiske oplysninger."
Og selvom det at inddrage politikere i scenarier, der skader deres omdømme, er en af de mere almindelige taktikker i disse kampagner, kan de også føre til "løgnagtighed", hvor det bliver muligt at tilbagevise sandfærdige beskyldninger som falske.
Bekæmpelse af AI deep fakes kræver en kombination af mere avancerede AI-indholdsfiltre på sociale medier og offentlig uddannelse. Kvaliteten af deep fakes i sig selv vil dog kun blive bedre.
