Vi har virkelig kommet inn i en tid der du ikke kan stole på det du ser på nettet.
Selv om dette utsagnet delvis har vært sant i flere tiår, har kunstig intelligens løftet innholdsmanipulasjon til et nytt nivå, og det har gått mye raskere enn offentligheten er klar over.
AI-teknologi for dyp forfalskning kan skape og endre bilder, videoer og lydopptak, legge ord i munnen på offentlige personer eller få dem til å fremstå i situasjoner som aldri har funnet sted.
I mange tilfeller skal det mer enn et blikk til for å avgjøre om innholdet er ekte, og falske medier kan akkumulere millioner av visninger før de oppdages.
Vi er nå vitne til omfattende forfalskninger som potensielt kan forstyrre demokratiske prosesser, selv om det er for tidlig å måle konkrete effekter på stemmegivningen.
La oss se nærmere på noen av de mest bemerkelsesverdige hendelsene vi har vært vitne til hittil.
Joe Biden New Hampshire-hendelsen
Januar 2024, A New Hampshire, USA, a robocall som etterligner Bidens stemme oppfordret velgerne til å "spare stemmen din til valget i november", og antydet feilaktig at deltakelse i primærvalget utilsiktet ville være til fordel for Donald Trump.
Det ble tilskrevet Kathy Sullivans, en tidligere leder for det demokratiske partiet i delstaten, personlige mobilnummer. Sullivan fordømte handlingen som en åpenbar form for valginnblanding og personlig trakassering.
Statsadvokaten i New Hampshire sa at dette var et ulovlig forsøk på å forstyrre presidentvalgkampen og undertrykke valgdeltakelsen.
Det ble identifisert at den fabrikkerte lyden var generert ved hjelp av ElevenLabs, et bransjeledende selskap innen talesyntese.
ElevenLabs suspenderte senere gjerningsmannen bak den falske Biden-stemmen og "Vi er opptatt av å forhindre misbruk av AI-verktøy for lyd, og vi tar alle tilfeller av misbruk svært alvorlig."
Tysklands forbundskansler Olaf Scholz dypt falsk hendelse
I november 2023 ble Tyskland vitne til en AI deep fake som feilaktig fremstilte forbundskansler Olaf Scholz som støttet et forbud mot det høyreekstreme partiet Alternativ for Tyskland (AfD).
Denne dypt falske videoen var en del av en kampanje fra en kunstaktivistgruppe, The Senter for politisk skjønnhet (CPB)og har som mål å rette oppmerksomheten mot AfDs økende innflytelse. Kritikken av AfD er satt i sammenheng med Tysklands historie på 1930-tallet.
CPB-gruppen, som ledes av filosofen og kunstneren Philipp Ruch, har som mål å skape "politisk poesi" og "moralsk skjønnhet" som tar for seg viktige samtidsspørsmål som brudd på menneskerettighetene, diktatur og folkemord.
CPB har engasjert seg i en rekke kontroversielle prosjekter, som for eksempel Installasjonen "Search for Us" i nærheten av Forbundsdagensom de hevdet inneholdt jord fra tidligere dødsleirer og levninger av holocaustofre.
Selv om oppslutningen om AfD har økt, viser en rekke protester over hele Tyskland at det er sterk motstand mot AfDs ideologi.
En talsperson for gruppen som står bak deep fake uttalte: "I våre øyne er høyreekstremismen i Tyskland, som sitter i parlamentet, farligere."
AfD-tjenestemenn kalte den falske kampanjen for en villedende taktikk som hadde som mål å diskreditere partiet og påvirke opinionen.
Storbritannias statsminister Rishi Sunak innblandet i svindelforsøk
I januar 2024 fant et britisk analyseselskap ut at statsminister Rishi Sunak var involvert i over 100 villedende videoannonser som hovedsakelig ble spredt på Facebook, og som nådde ut til anslagsvis 400 000 personer.
Disse annonsene, som stammet fra ulike land, deriblant USA, Tyrkia, Malaysia og Filippinene, reklamerte for falske investeringsopplegg som feilaktig ble assosiert med høyt profilerte personer som Elon Musk.
Undersøkelsen, som ble utført av Online Communications selskapet Fenimore Harper, fremhevet hvordan sosiale medieselskaper rett og slett ikke reagerer på denne formen for innhold innen en rimelig tidsramme.
Marcus Beard, grunnleggeren av Fenimore Harper, forklarte hvordan AI demokratiserer feilinformasjon: "Med fremveksten av billig, brukervennlig stemme- og ansiktskloning kreves det svært lite kunnskap og ekspertise for å bruke en persons likhet til ondsinnede formål."
Beard kritiserte også den utilstrekkelige innholdsmodereringen på sosiale medier, og bemerket: "Disse annonsene er i strid med flere av Facebooks retningslinjer for annonsering. Men svært få av annonsene vi fant, ser ut til å ha blitt fjernet."
Den britiske regjeringen reagerte på risikoen for falske valg: "Vi jobber på tvers av regjeringen for å sikre at vi er klare til å reagere raskt på eventuelle trusler mot de demokratiske prosessene våre gjennom vår arbeidsgruppe for å forsvare demokratiet og dedikerte regjeringsteam."
Pakistans statsminister Imran Khan dukker opp i virtuelt møte
I desember 2023 sitter Pakistans tidligere statsminister Imran Khan fengslet, anklaget for å ha lekket statshemmeligheter, dukket opp på et virtuelt rally ved hjelp av AI.
Til tross for at Khan sitter bak lås og slå, ble hans digitale avatar sett av millioner av mennesker. Demonstrasjonen inneholdt opptak fra tidligere taler som involverte hans politiske parti, Pakistan Tehreek-e-Insaaf (PTI).
Khans fire minutter lange tale handlet om motstandskraft og trass mot den politiske undertrykkelsen som PTI-medlemmene utsettes for.
AI-stemmen artikulerte seg: "Partiet vårt får ikke lov til å holde offentlige møter. Våre folk blir kidnappet, og familiene deres blir trakassert", og fortsatte: "Historien vil huske deres ofre."
For å forvirre situasjonen skal den pakistanske regjeringen ha forsøkt å blokkere tilgangen til demonstrasjonen.
NetBlocks, en organisasjon som overvåker internett, uttalte: "Målinger viser at store sosiale medieplattformer var begrenset i Pakistan i [nesten] 7 timer søndag kveld under et politisk møte på nettet; hendelsen er i tråd med tidligere tilfeller av internettsensur rettet mot opposisjonsleder Imran Khan og hans parti PTI."
ℹ️ ICYMI: Beregninger viser at de største sosiale medieplattformene ble begrenset i #Pakistan i ca. 7 timer søndag kveld under et politisk møte på nettet; hendelsen er i tråd med tidligere tilfeller av internettsensur rettet mot opposisjonsleder Imran Khan og hans parti PTI https://t.co/AS9SdfwqoH pic.twitter.com/XXMYBhknXd
- NetBlocks (@netblocks) 18. desember 2023
Usama Khilji, en forkjemper for ytringsfrihet i Pakistan, kommenterte: "Nå som PTIs rett til organisasjons- og ytringsfrihet er slått hardt ned på gjennom arrestasjoner av ledere, markerer partiets bruk av kunstig intelligens til å kringkaste en virtuell tale med ordene til den fengslede lederen og tidligere statsministeren Imran Khan et nytt punkt i bruken av teknologi i pakistansk politikk."
Falsk lyd av den tidligere sudanske presidenten Omar al-Bashir på TikTok
En AI-drevet kampanje på TikTok utnyttet stemmen til Sudans tidligere president Omar al-Bashir midt i landets pågående uroligheter.
Siden slutten av august 2023 har en anonym konto lagt ut det den hevder er "lekkede opptak" av al-Bashir. Analytikere fant imidlertid ut at opptakene var AI-genererte forfalskninger.
al-Bashir har vært fraværende fra offentligheten siden han ble fordrevet fra landet i 2019 på grunn av alvorlige anklager om krigsforbrytelser.
Slovakias lydsvindel på valgdagen
På valgdagen i Slovakia ble det publisert en kontroversiell lydfil med forfalskninger av Michal Šimečka, leder for partiet Progressive Slovakia, og journalisten Monika Tódová, som diskuterte korrupt praksis som stemmekjøp.
Dette kom frem under Slovakias mediesperre før valget, slik at de impliserte personene ikke uten videre kunne tilbakevise sin involvering offentlig før valget var over.
Begge de impliserte partene fordømte senere innspillingen som en dyp forfalskning, noe et faktasjekkbyrå bekreftet.
Volodymyr Zelenskijs dype falske
I 2023 ble en falsk video av Ukrainas president Volodymyr Zelenskij, som på amatørmessig vis antydet at han oppfordret soldater til å forlate postene sine, raskt identifisert som falsk og fjernet av de største sosiale medieplattformene.
Dypt falskt drama i det tyrkiske valget
I forkant av parlaments- og presidentvalget i Tyrkia ble det spredt en video på nettet som feilaktig viste at president Recep Tayyip Erdoğans hovedutfordrer, Kemal Kılıçdaroğlu, hadde mottatt støtte fra PKK.
Donald Trump dype forfalskninger
I begynnelsen av 2023 var vi vitne til realistiske deep fakes av Donald Trump som ble arrestert, og en kampanjevideo av Ron DeSantis med AI-genererte bilder av Trump som omfavner Anthony Fauci.
Belgisk politisk partis Trump dypt falske
En tidligere hendelse i Belgia i 2018 skapte politisk oppstandelse da en falsk video laget av et politisk parti utløste et ramaskrik.
Videoen fremstilte president Donald Trump feilaktig som om han rådet Belgia til å trekke seg fra klimaavtalen fra Paris.
Videoen var en del av en høyteknologisk forfalskning, noe som senere ble erkjent av partiets medieteam. Den demonstrerte hvor omfattende forfalskninger som kan brukes til å fabrikkere uttalelser fra verdens ledere for å påvirke opinionen og politikken.
Dyp forfalskning av Nancy Pelosi
En manipulert video av Nancy Pelosi i 2020, der det ser ut som om hun snakker utydelig og er beruset, spredte seg raskt på sosiale medier.
Dette viste hvilket potensial deep fakes har for å diskreditere og sette offentlige personer i forlegenhet, noe som ofte vedvarer etter at innholdet er blitt ansett som falskt.
Audio deepfake av Keir Starmer
En annen hendelse i britisk politikk var et lydklipp som angivelig fanget opp opposisjonsleder Sir Keir Starmer mens han bannet til sine ansatte.
Klippet, som fikk stor spredning på sosiale medier, ble senere avslørt som en AI-generert deep fake.
Etter hvert som teknologiselskapene utforsker nye måter å håndtere falske medier på i stor skala, vil AI-modellene som brukes til å skape falske medier, bare bli mer sofistikerte og enklere å bruke.
Reisen fremover krever samarbeid mellom teknologer, beslutningstakere og publikum for å utnytte fordelene med kunstig intelligens og samtidig ivareta samfunnets grunnpilarer tillit og integritet.
Tilliten til politikk og offentlige institusjoner er allerede mildt sagt skrøpelig. Dype forfalskninger vil undergrave den ytterligere.
