Mens udbredelsen af AI-værktøjer og -teknologi allerede har givet mange fordele for både enkeltpersoner og virksomheder, er det også sandt, at den øgede tilgængelighed til AI-værktøjer har haft skadelige konsekvenser for niveauet af misinformation, der sendes ud i verden.
Brugen af dybe forfalskninger til at misrepræsentere indflydelsesrige personer er en voksende bekymring verden over - med misinformation og desinformation rangeret som den største trussel mod verden i de næste to år af World Economic Forum's Rapport om globale risici (2024).
AI-misinformation er et globalt problem - men hvilke lande kæmper hårdest mod disse problemer? I denne undersøgelse har vores team på DailyAI tog de førende lande inden for kunstig intelligens (bestemt af forskningskapacitet) og analyserede den gennemsnitlige hyppighed og dybde af interessen for deep fake-relaterede værktøjer.
De vigtigste resultater:
- Singapore, Australien, Finland og Holland indtager topplaceringerne for lande, der er mest interesserede i at skabe dybe forfalskninger
- Selv om Kina er det næststørste land inden for kunstig intelligens, er det ifølge vores resultater det land, der er mindst interesseret i kunstig intelligens generelt.
Sam Jeans, AI-ekspert hos DailyAI, kommenterer:
"Den voldsomme stigning i forfalskninger og manipuleret indhold på nettet har forståeligt nok givet anledning til stor bekymring hos regeringer over hele verden, da vi globalt forsøger at finde de rigtige grænser mellem at udnytte nye og fremspirende teknologier og bekæmpe de ting, der kan forårsage uovertruffen skade.
Disse resultater viser, at interessen for deep fake-manipulation helt sikkert er mere udbredt i nogle lande end andre, men da dette indhold er tilgængeligt på globalt plan, er der brug for en fælles indsats for at sikre, at skaden forårsaget af deep fake-indhold minimeres."
Australien mest interesseret i dybe falske producenter
Da vi vurderede top 10-lande inden for kunstig intelligens for deres interesse i deep fake makers og relaterede søgninger, fandt vi, at Australien skiller sig ud som den mest interesserede med en forekomst på 0,41 ud af 100.000 mennesker.
Australien ligger også i top tre over lande med flest søgninger efter "deep fake porn maker" og på fjerdepladsen for "deep fake image maker". Australien anses i øjeblikket for at være det sjette førende land inden for kunstig intelligens og forskning.
I slutningen af 2023 meddelte Australien, at de ville være Presser sociale medieplatforme at slå ned på dybt falske billeder og videoer efter voksende bekymring over niveauet af stødende indhold og hadefulde kommentarer, der bliver lagt ud på nettet.
Singapore mest fascineret af dybe falske pornofunktioner
Vores analyser viste også, at Singapore rangerede højest på søgninger efter "deep fake porn makers" med en forekomst på 0,50 pr. 100.000 mennesker. Derudover er landet næstmest interesseret i deep fake video makers og næstmest interesseret i "deep fake nude makers". Søgninger efter dette udtryk har en forekomst på 0,17 pr. 100.000 mennesker - det samme som i Holland og USA.
Dette resultat er noget overraskende i betragtning af, at Singapores interesse for generelle "deep fake makers" er langt lavere - landet ligger i midten af ranglisten for det søgeord.
Singapore er dog også det land, der er næstmest fascineret af søgeordet "deep fake image maker" med en forekomst på 0,17 pr. 100.000 mennesker. Landet er kun overgået af Finland for dette søgeord.
Singapore er rangeret som det tredje førende land inden for forskning og kapacitet i kunstig intelligens. En af de mest bemærkelsesværdige forekomster af deep fakes, der blev brugt i Singapore, var en video om investeringsfup som cirkulerede på de sociale medier i 2023, og som brugte vicepremierminister Lawrence Wong og en falsk voice-over til at promovere den falske investeringsmulighed.
Holland har næsten dobbelt så mange søgninger efter dybt falske videoproducenter som noget andet land
Mens Holland ikke er særlig højt placeret i andre deep fake-relaterede søgninger, har landet en ubestridelig interesse i at lave deep fake-videoindhold i særdeleshed.
Forekomsten af søgninger efter deep fake video makers var 0,96 pr. 100.000 mennesker - næsten dobbelt så meget som i det land, der ligger på andenpladsen - Singapore, igen med 0,50 søgninger pr. 100.000 mennesker.
Holland er et andet land, hvor dybe forfalskninger af politikere er blevet brugt til at vildlede den offentlige mening. Ved valget i november 2023 blev der rapporteret om et alarmerende antal dybt falske manipulationer, der cirkulerede på sociale medier af adskillige fremtrædende politikere.
Finland har størst interesse for dybe falske billeder og nøgenbilleder
Endelig er Finland blandt de lande, der er mest interesserede i deep fakes, med den højeste forekomst af søgninger efter deep fake nude makers og image makers (0,18 pr. 100.000 personer for hver af de respektive søgetermer).
Finland er i øjeblikket rangeret som det niende førende land inden for forskning i og kapacitet til kunstig intelligens. Landet hyldes ofte for sin mission om at sætte uddannelse på forkant i kampen mod misinformation og falske nyheder - men som det fremgår her, afholder det ikke altid folk fra at interessere sig for, hvad disse nye former for AI kan opnå.
USA viser en bemærkelsesværdig mangel på interesse for deep fakes
USA anses i øjeblikket for at være det førende land inden for forskning og kapacitet i kunstig intelligens, så man kunne forestille sig, at landet også er på forkant med enhver interesse i deep fake makers.
Vores rangordning viser dog, at landet er decideret uinteresseret i at skabe deep fakes sammenlignet med andre lande på denne liste. USA ligger på en delt andenplads sammen med Holland og Singapore for søgninger efter deep fake nude makers, men ligger midt i rækken for andre relaterede termer.
Ikke desto mindre har mange højt profilerede amerikanske berømtheder allerede været mål for dybt falske videoer og billeder, der er lagt ud på nettet - og USA er allerede i gang med at Udarbejdelse af nye love for at beskytte enkeltpersoner mod den skade, dybt falsk indhold kan forårsage.
Kina er generelt mindst interesseret i deep fake-producenter
På trods af at Kina anses for at være det næststørste land inden for kunstig intelligens, kun overgået af USA, viser vores undersøgelser, at landet er mindst interesseret i dybe falske producenter på tværs af alle søgeforespørgsler.
Kina ligger nederst på listen over søgninger efter deep fake makers, herunder pornografiske søgninger, hvilket tyder på, at deep fakes måske ikke er nået ud til landets mainstream endnu.
Det er dog også vigtigt at bemærke, at søgedata måske ikke er 100% nøjagtige for Kina-specifikke søgninger. AI er bestemt ikke nyt i Kina - fra Dybe forfalskninger af livestreamere der kører 24/7 og skaber overskrifter i 2023, til en stigning i Økonomisk svindel ved hjælp af deep fake-teknologi. Måske er det mere sandsynligt, at vi ikke er i stand til at få adgang til helt nøjagtige søgedata fra Kina om kunstig intelligens-relaterede forespørgsler.
Sådan spotter du en dyb forfalskning
For at kunne skelne mellem autenticiteten af digitalt indhold og identificere dybe forfalskninger er det vigtigt at vide, hvilke tegn man skal holde øje med. Følgende indikatorer kan hjælpe dig med at skelne mellem ægte indhold og sofistikerede forfalskninger:
1. Uoverensstemmelser i belysning og skygger
Deepfakes har ofte svært ved at gengive nuancerne i naturlig belysning og skygger nøjagtigt. Se efter uregelmæssigheder i, hvordan lyset interagerer med motivet, f.eks. skygger, der ikke passer sammen, eller inkonsekvent belysning i forskellige dele af scenen.
2. Anomalier i ansigtstræk
Vær meget opmærksom på emnet for videoen af imges ansigtsudtryk og træk. Deepfakes vil ofte udvise uregelmæssigheder som unaturlige blink, mærkelige læbebevægelser eller ansigtsudtryk, der ikke stemmer overens med den følelsesmæssige tone i stemmen eller situationen. Efterhånden som teknologien bliver mere avanceret, vil disse uregelmæssigheder blive mere og mere små.
3. Audiovisuelle uoverensstemmelser
I dybe forfalskninger kan synkroniseringen mellem lyd- og billedelementer være forkert. Tjek, om personens læbebevægelser er i perfekt synkronisering med de talte ord. Enhver forsinkelse eller uoverensstemmelse mellem det visuelle og lyden kan være et rødt flag om, at du ser på en deep fake.
4. Hudens struktur og teint
Deepfakes kan nogle gange have svært ved at gengive menneskelig hudtekstur realistisk. Hold øje med tegn på unormal hudtekstur eller skiftende hudtoner, der ikke virker naturlige eller ensartede i hele videoen.
5. Uoverensstemmelser i baggrunden
Analyser baggrunden for tegn på forvrængning eller udsving. Deepfake-teknologi kan fokusere på motivet og overse baggrunden, hvilket fører til uregelmæssigheder i det omgivende miljø.
6. Kvalitet og opløsning
Vær forsigtig med videoer, der præsenteres som officielle, men som med vilje præsenteres i lav opløsning eller kvalitet. Nogle gange kan skaberne af dybe forfalskninger bruge lavere kvalitet til at skjule ufuldkommenheder og uregelmæssigheder, som ville være mere synlige i high-definition.
Metodologi
For at få disse resultater fandt vores DailyAI-team frem til Top 10 lande som anses for at være førende inden for AI i 2023. Vi fandt derefter den gennemsnitlige månedlige søgevolumen for en række deep fake maker-relaterede termer og fandt det gennemsnitlige antal søgninger pr. 100.000 mennesker for at udligne eventuelle skævheder fra lande med en større befolkningsstørrelse.
