Selv om utbredelsen av AI-verktøy og -teknologi allerede har gitt mange fordeler for både enkeltpersoner og bedrifter, er det også sant at den økte tilgjengeligheten til AI-verktøy har hatt skadelige konsekvenser for omfanget av feilinformasjon som sendes ut i verden.
Bruken av forfalskninger for å gi en feilaktig fremstilling av innflytelsesrike personer er et økende problem verden over - og feilinformasjon og desinformasjon er rangert som den største trusselen verden står overfor de neste to årene av World Economic Forum's Rapport om globale risikoer (2024).
Feilinformasjon om kunstig intelligens er et globalt problem - men hvilke land kjemper hardest mot disse problemene? I denne studien har teamet vårt ved DagligAI tok utgangspunkt i de ledende landene innen kunstig intelligens (målt etter forskningskapasitet) og analyserte den gjennomsnittlige hyppigheten og dybden av interessen for deep fake-relaterte verktøy.
Viktige funn:
- Singapore, Australia, Finland og Nederland er de landene som er mest interessert i å lage dype forfalskninger
- Selv om Kina er det nest ledende landet når det gjelder kunstig intelligens, er landet som er minst interessert i kunstig intelligens totalt sett, ifølge våre funn
Sam Jeans, AI-ekspert hos DailyAI, kommenterer:
"Den bratte økningen av forfalskninger og manipulert innhold på nettet har forståelig nok vært en stor kilde til bekymring for myndigheter over hele verden, ettersom vi globalt prøver å finne de riktige grensene mellom å utnytte ny og fremvoksende teknologi og å bekjempe ting som kan forårsake uovertruffen skade.
Disse funnene viser at interessen for dyp falsk manipulasjon helt sikkert er mer utbredt i noen land enn andre, men siden dette innholdet er tilgjengelig på global skala, er det nødvendig med en felles innsats for å sikre at skaden forårsaket av dypt falskt innhold minimeres."
Australia mest interessert i dype falske produsenter
Når vi vurderte de ti landene som er mest interessert i kunstig intelligens, fant vi at Australia skiller seg ut som det mest interesserte landet, med en forekomst på 0,41 av 100 000 personer.
Australia er også blant de tre landene med flest søk etter "deep fake porn maker", og på fjerdeplass for "deep fake image maker". Australia regnes for tiden som det sjette ledende landet når det gjelder kunstig intelligens og forskning.
I slutten av 2023 kunngjorde Australia at de ville bli press på sosiale medieplattformer å slå ned på falske bilder og videoer etter økende bekymring over omfanget av støtende innhold og hatkommentarer som legges ut på nettet.
Singapore mest fascinert av dype falske pornomuligheter
Analysene våre viste også at Singapore rangerte høyest totalt for søk etter "deep fake porn makers", med en forekomst på 0,50 per 100 000 personer. I tillegg er landet nest mest interessert i "deep fake video makers", og nest mest interessert i "deep fake nude makers". Søk etter dette begrepet har en forekomst på 0,17 per 100 000 personer - det samme som i Nederland og USA.
Dette funnet er noe overraskende med tanke på at Singapores interesse for "deep fake makers" generelt er langt lavere - landet ligger i midten av rangeringen for det søkeordet.
Singapore er imidlertid også det landet som er nest mest fascinert av søkeordet "deep fake image maker", med en forekomst på 0,17 per 100 000 innbyggere. Landet er det nest mest populære landet etter Finland for dette søkeordet.
Singapore er rangert som det tredje ledende landet når det gjelder forskning og kapasitet innen kunstig intelligens. En av de mest bemerkelsesverdige tilfellene av dyp forfalskning i Singapore var en video av investeringssvindel som sirkulerte på sosiale medier i 2023, ved hjelp av visestatsminister Lawrence Wong og en falsk voice-over som promoterte den falske investeringsmuligheten.
Nederland har nesten dobbelt så mange søk etter deep fake video-produsenter som noe annet land
Selv om Nederland ikke kommer spesielt høyt opp på andre deep fake-relaterte søk, har landet en ubestridelig interesse for å lage spesielt deep fake-videoinnhold.
Forekomsten av søk etter "deep fake"-videoprodusenter var 0,96 per 100 000 innbyggere - nesten dobbelt så høy som i landet på andreplass - Singapore, igjen med 0,50 søk per 100 000 innbyggere.
Nederland er et annet land der dype forfalskninger av politikere har blitt brukt til å villede opinionen. I forbindelse med valget i november 2023 ble det rapportert om et alarmerende antall falske manipulasjoner som sirkulerte på sosiale medier av en rekke fremtredende politikere.
Finland har størst interesse for falske bilder og nakenbilder
Finland er blant de landene som er mest interessert i deep fakes, med den høyeste forekomsten av søk etter deep fake nude makers og image makers (0,18 per 100 000 personer for hvert av søkeordene).
Finland er for tiden rangert som det niende ledende landet når det gjelder forskning og kapasitet innen kunstig intelligens. Landet får ofte applaus for sitt oppdrag om å sette Utdanning i fremste rekke i kampen mot feilinformasjon og falske nyheter - men som vist her, er det ikke alltid det hindrer folk i å interessere seg for hva disse nye formene for kunstig intelligens kan oppnå.
USA viser en bemerkelsesverdig mangel på interesse for deep fakes
USA anses for tiden å være det ledende landet innen forskning på og kapasitet for kunstig intelligens, så du kan kanskje tenke deg at landet også ligger i forkant når det gjelder interessen for deep fake makers.
Rangeringen vår viser imidlertid at landet er desidert uinteressert i å lage dype forfalskninger sammenlignet med andre land på denne listen. USA ligger på delt andreplass sammen med Nederland og Singapore når det gjelder søk etter "deep fake nude makers", men ligger midt på treet når det gjelder andre relaterte begreper.
Likevel har mange høyt profilerte amerikanske kjendiser allerede blitt utsatt for falske videoer og bilder som er lagt ut på nettet - og USA er allerede i ferd med å utarbeide nye lover for å beskytte enkeltpersoner mot skaden dypt falskt innhold kan forårsake.
Kina er minst interessert i dype falske produsenter totalt sett
Til tross for at Kina regnes som det nest ledende landet innen kunstig intelligens, kun slått av USA, viser undersøkelsen vår at landet er minst interessert i dype falske beslutningstakere på tvers av alle søk.
Kina ligger nederst på rangeringen for søk etter deep fake-produsenter, inkludert pornografiske søk, noe som tyder på at mulighetene for deep fakes kanskje ikke har nådd landets mainstream ennå.
Det er imidlertid også viktig å merke seg at søkedataene kanskje ikke er 100% nøyaktige for Kina-spesifikke søk. AI er absolutt ikke noe nytt i Kina - fra dype forfalskninger av livestreamere som kjører 24/7 og skaper overskrifter i 2023, til en økning i økonomisk svindel ved hjelp av deep fake-teknologi. Kanskje er det mer sannsynlig at vi ikke har tilgang til helt nøyaktige søkedata fra Kina om kunstig intelligens-relaterte spørsmål.
Slik oppdager du en dyp forfalskning
For å kunne se om digitalt innhold er ekte eller forfalsket, er det viktig å vite hvilke tegn man bør se etter. Følgende indikatorer kan hjelpe deg med å skille mellom ekte innhold og sofistikerte forfalskninger:
1. Uoverensstemmelser i belysning og skygger
Deepfakes har ofte problemer med å gjenskape nyansene i naturlig belysning og skygger på en nøyaktig måte. Se etter uregelmessigheter i hvordan lyset interagerer med motivet, for eksempel ujevne skygger eller inkonsekvent belysning i ulike deler av scenen.
2. Avvik i ansiktstrekk
Følg nøye med på ansiktsuttrykket og ansiktstrekkene til personen i videoen av imge. Deepfakes vil ofte vise avvik som unaturlig blunking, merkelige leppebevegelser eller ansiktsuttrykk som ikke stemmer overens med den emosjonelle tonen i stemmen eller situasjonen. Etter hvert som teknologien blir mer avansert, vil disse avvikene bli mer og mer små.
3. Audiovisuelle misforhold
I dype forfalskninger kan synkroniseringen mellom lyd og visuelle elementer være feil. Sjekk om personens leppebevegelser er perfekt synkronisert med de talte ordene. Enhver forsinkelse eller uoverensstemmelse mellom det visuelle og lyden kan være et rødt flagg om at du ser på en dyp forfalskning.
4. Hudens tekstur og hudfarge
Deepfakes kan noen ganger ha problemer med å gjenskape menneskelig hudtekstur på en realistisk måte. Se etter tegn på unormal hudtekstur eller skiftende hudtoner som ikke virker naturlige eller konsekvente gjennom hele videoen.
5. Uoverensstemmelser i bakgrunnen
Analyser bakgrunnen for tegn på forvrengning eller fluktuasjoner. Deepfake-teknologi kan fokusere på motivet og overse bakgrunnen, noe som kan føre til uregelmessigheter i omgivelsene.
6. Kvalitet og oppløsning
Vær forsiktig med videoer som presenteres som offisielle, men som med vilje presenteres i lav oppløsning eller kvalitet. Noen ganger kan skaperne av dype forfalskninger bruke lavere kvalitet for å skjule ufullkommenheter og uregelmessigheter som ville vært mer synlige i HD.
Metodikk
For å få disse funnene har vårt DailyAI-team hentet inn Topp 10 land som anses å være ledende innen kunstig intelligens i 2023. Deretter fant vi det gjennomsnittlige månedlige søkevolumet for en rekke begreper relatert til deep fake maker, og fant gjennomsnittlig antall søk per 100 000 innbyggere for å utligne eventuelle skjevheter fra land med en større befolkningsstørrelse.
