Et kontroversielt lydopptak dukket opp på Facebook få timer etter at det ble lagt ut på valgdagen i Slovakia.
Den inneholdt stemmer som angivelig tilhørte Michal Šimečka, lederen av partiet Progressive Slovakia, og Monika Tódová fra avisen Denník N.
Samtalen dreide seg om valgfusk og kjøp av stemmer fra rom-minoriteten, noe som utløste korrupsjonsbekymringer og forvirring på sosiale medier.
Opptaket ble raskt tilbakevist som falskt av både Šimečka og Denník N. Agence France-Presse (AFP) sin faktasjekker viste tegn på AI-manipulasjon i lydopptaket, og dette ble senere rapportert av internasjonale nyhetsbyråer.
Med tanke på tidspunktet - innenfor 48 timers medietaushet før valget - var det utfordrende å motbevise innlegget i tide.
Smer-SD, som ledes av den tidligere slovakiske statsministeren Robert Fico, fikk 23% i lørdagens avstemning, og slo dermed sentrumspartiet Progressive Slovakia med 18%.
Siden det var lydinnhold, slapp det også forbi Metas retningslinjer, som først og fremst er rettet mot manipulerte videoer.
I forkant av avstemningen understreket EUs digitale sjef, Věra Jourová, at europeiske valg er utsatt for omfattende manipulasjonstaktikker, og antydet at det kan være snakk om påvirkning utenfra, for eksempel fra Moskva.
Nå er landene i høyeste beredskap for AI-infisert valgpåvirkning, noe som virker uunngåelig - det er mer et spørsmål om vi kan stoppe det, og hvor mye skade det kan gjøre. Polen, som står foran et nært forestående valg, blir den neste testen.
I 2024 og 2025 står også store valg for døren, blant annet i USA og India neste år.
Faktasjekkere som AFP understreker at AI raskt utvikler seg til å bli et potent verktøy for å destabilisere valg, og at vi er dårlig rustet til å motvirke det. Veronika Hincová Frankovská fra faktasjekkingsorganisasjonen Demagog kommenterte: "Vi er ikke så klare for det som vi burde være."
Frankovskás team verifiserte opprinnelsen til den falske slovakiske lyden og rådførte seg med eksperter før de brukte en AI-taleklassifiseringsenhet fra Eleven Labs for å fastslå ektheten.
Til tross for utviklingen av kunstig intelligens er vi i stor grad avhengige av mennesker for å oppdage dype forfalskninger.
AI deep fakes er i ferd med å bli et kritisk problem
AI spiller en stadig større rolle i spredningen av desinformasjon, og det er en herkulesoppgave å bevise at AI-bilder, -videoer og -opptak er falske.
Det meste falske innhold er forbudt på sosiale medier. Ben Walter, som representerer Meta, uttalte: "Våre fellesskapsstandarder gjelder for alt innhold ... og vi vil iverksette tiltak mot innhold som bryter med disse retningslinjene."
I praksis viser det seg imidlertid å være vanskelig å stoppe spredningen av dypt falskt innhold, og tiltak som AI vannmerker er sørgelig ineffektive.
Mens Polen forbereder seg til valget, er det bekymring for den mulige tilstrømningen av AI-generert innhold, og desinformasjon har allerede skapt uro.
Jakub Śliż fra den polske faktasjekkingsgruppen Pravda Association sa: "Som faktasjekkingsorganisasjon har vi ingen konkret plan for hvordan vi skal håndtere dette."
Når valgresultatene hviler på knappe marginer og bitre politiske dialoger, slik de gjorde i Slovakia, kan effekten av AI-generert desinformasjon være alvorlig. I tillegg viser tidligere tilfeller av algoritmisk forstørret desinformasjon, som Cambridge Analytica-skandalen, at enkelte aktører kan være medskyldige i denne taktikken.
Det amerikanske presidentvalget i 2016 var allerede preget av feilinformasjon drevet frem av ekstremistiske aktivister, utenlandsk innblanding og villedende nyhetskanaler.
I 2020 ble ubegrunnede påstander om valgfusk dominerende, noe som styrket en bevegelse mot demokratiet som forsøkte å omgjøre valgresultatet.
AI-drevet desinformasjon risikerer ikke bare å lure publikum, den truer også med å overvelde et allerede skjørt informasjonsmiljø og skape en atmosfære av falskhet, mistillit og bedrag.
"Graden av tillit vil gå ned, og jobben til journalister og andre som prøver å formidle faktisk informasjon, vil bli vanskeligere", sier Ben Winters, seniorrepresentant ved Electronic Privacy Information Center.
Nye verktøy for gamle taktikker
Se for deg en verden der manipulerende innhold produseres til en så ubetydelig kostnad og med en slik letthet at det blir dagligdags.
Teknologistyrt feilinformasjon er ikke noe nytt fenomen, men AI-verktøy er perfekt posisjonert for å sette turbo på slike taktikker.
Det har vært mange tidlige trefninger som gir en pekepinn på hva som kommer til å skje. Tidligere i år ble en AI-generert bilde av Pentagon eksplosjonen fikk en merkbar innvirkning på aksjemarkedene, om enn bare i noen minutter, før brukere av sosiale medier fordømte de virale bildene som falske.
AI-renderte bilder, som tilsynelatende viste Donald Trump i konfrontasjon med politiet, fikk stor oppslutning på nettet, og den republikanske nasjonalkomiteen sendte ut en helt AI-generert annonse som forestilte seg katastrofer hvis Biden ble gjenvalgt.
En annen viral dyp falsk involverer Floridas guvernør og republikanske kandidat, Ron DeSantis, som ga ut endrede bilder som viser eks-president Donald Trump i en omfavnelse med dr. Anthony Fauci.
X (den gang Twitter) la til en tagg i den opprinnelige tweeten, og merket den som AI-manipulert.
Donald Trump ble et kjent navn ved å FYRING utallige mennesker *på TV*
Men når det gjaldt Fauci... pic.twitter.com/7Lxwf75NQm
- DeSantis War Room 🐊 (@DeSantisWarRoom) 5. juni 2023
I Storbritannia ble statsminister Rishi Sunak manipulert for å vise ham skjenker en halvliter øl av dårlig kvalitettil stor misnøye for X-brukere (den gang Twitter) før bildets autentisitet ble avslørt.
Utenfor den politiske arenaen har folk vært lurt av svindlere som utgir seg for å være venner eller familiemedlemmer.
Flere kvinner og selv unge jenter har blitt utsatt for dyp falsk "sextortion" - der svindlere utpresser dem med falske, utskjellende bilder - noe FBI advarte mot tidligere i år.
Stemmekloner av Omar al-Bashir, Sudans tidligere leder, dukket nylig opp på TikTokDet er en av de viktigste grunnene til at et land i borgerkrig er i ferd med å gå i oppløsning.
Listen over eksempler er lang, og det ser ut til at AI-fakes behersker både tekst, bilder, video og lyd.
Kunstig intelligens senker terskelen for desinformasjon
AI-forbedrede verktøy forsterker tradisjonelle valgpåvirkningstaktikker, både når det gjelder kvalitet og omfang.
Som vi har sett i det slovakiske valget, påpeker Josh Goldstein fra Georgetown University's Center for Security and Emerging Technology hvordan utenlandske aktører kan generere overbevisende innhold på ønsket språk.
Han uttalte: "AI-genererte bilder og videoer kan lages mye raskere enn faktasjekkere kan gjennomgå og avkrefte dem."
Det er også potensial for å utnytte kunstig intelligens til målrettet masse-desinformasjon. For eksempel brukte to høyreekstreme aktivister robocalls (robotsamtaler som retter seg mot folk i hopetall) til å spre feilinformasjon om valget til tusenvis av svarte velgere i fjor.
USA ruster seg for AI-desinformasjon i valgkampen
Med flere høyprofilerte valg i 2024 vil innflytelsen fra AI-drevne desinformasjonskampanjer for alvor bli avslørt.
Som svar på AIs økende innflytelse har teknologigiganter som Google iverksatt tiltak, for eksempel obligatorisk merking av politiske annonser som bruker AI-forbedret innhold.
I mellomtiden diskuterer Kongressen regelverket for kunstig intelligens, og Federal Election Commission (FEC) vurderer regler for bruk av kunstig intelligens i politisk reklame.
Som svar på den økende bekymringen for den villedende kraften til kunstig intelligens, har FEC har foreslått forskrifter om bruk av kunstig intelligens i politiske kampanjer.
Denne enstemmige FEC-avgjørelsen ble offentliggjort 10. august, og førte til en 60 dager lang offentlig høring med eksperter, interessenter og allmennheten.
Lisa Gilbert, visepresident i Public Citizen, understreket behovet for å se nærmere på hvordan lovene om "uredelig fremstilling" kan komme i berøring med AI deep fakes.
På vei mot 2024 vil nye AI-modeller fra Meta, OpenAI og andre AI-utviklere utstyre mennesker med muligheten til å generere enormt naturtro innhold, så dette problemet blir ikke enklere - snarere tvert imot.
