Även om spridningen av AI-verktyg och AI-teknik redan har inneburit många fördelar för både privatpersoner och företag, är det också sant att den ökade tillgängligheten till AI-verktyg har haft skadliga konsekvenser för nivån på den felaktiga information som sprids i världen.
Användningen av djupa förfalskningar för att förvränga bilden av inflytelserika personer är ett växande problem över hela världen - med felaktig information och desinformation rankad som det främsta hotet mot världen under de kommande två åren av World Economic Forum's Rapport om globala risker (2024).
Felaktig information om AI är en global fråga - men vilka länder kämpar hårdast mot dessa problem? I den här studien har vårt team på DagligaAI tog de ledande länderna inom artificiell intelligens (fastställt utifrån forskningskapacitet) och analyserade den genomsnittliga frekvensen och djupet av intresset för deep fake-relaterade verktyg.
Viktiga slutsatser:
- Singapore, Australien, Finland och Nederländerna toppar listan över länder som är mest intresserade av att skapa djupa förfalskningar
- Även om Kina är det näst största landet när det gäller artificiell intelligens, är landet enligt våra resultat det minst intresserade av artificiell intelligens överlag
Sam Jeans, AI-expert på DailyAI, kommenterar:
"Den kraftiga ökningen av djupa förfalskningar och manipulerat innehåll som läggs ut på nätet har förståeligt nog varit en stor källa till oro för regeringar runt om i världen, eftersom vi globalt försöker hitta de rätta gränserna mellan att utnyttja ny och framväxande teknik och att bekämpa de saker som kan orsaka oöverträffad skada.
Dessa resultat visar att intresset för manipulation av djupt falskt innehåll förvisso är större i vissa länder än i andra, men eftersom detta innehåll är tillgängligt på global nivå kommer det att krävas en gemensam insats för att säkerställa att den skada som orsakas av djupt falskt innehåll minimeras."
Australien mest intresserad av djupa falska tillverkare
När vi utvärderade de 10 största länderna inom artificiell intelligens för deras intresse för deep fake makers och relaterade sökningar fann vi att Australien sticker ut som den mest intresserade, med en förekomst på 0,41 av 100.000 personer.
Australien finns också bland de tre länder som har flest sökningar på "deep fake porn maker" och på fjärde plats för "deep fake image maker". Australien anses för närvarande vara det sjätte ledande landet när det gäller kapacitet och forskning inom artificiell intelligens.
I slutet av 2023 meddelade Australien att de skulle vara press på sociala medieplattformar att slå ner på djupt falska bilder och videor efter växande oro över nivån av stötande innehåll och hatkommentarer som läggs ut på nätet.
Singapore mest fascinerad av djupa falska porrfunktioner
Vår analys visade också att Singapore rankades högst totalt sett för sökningar efter "deep fake porn makers", med en förekomst på 0,50 per 100 000 personer. Dessutom är landet näst mest intresserat av "deep fake video makers" och delat näst mest intresserat av "deep fake nude makers". Sökningar efter denna term har en förekomst på 0,17 per 100 000 personer - samma som i Nederländerna och USA.
Detta resultat är något förvånande med tanke på att Singapores intresse för "deep fake makers" i allmänhet är mycket lägre - landet ligger i mitten av rankingen för den söktermen.
Singapore är dock också det land som näst mest fascineras av sökordet "deep fake image maker", med en frekvens på 0,17 per 100.000 invånare. Landet rankas som nummer två efter Finland för denna sökterm.
Singapore rankas som det tredje ledande landet för forskning och kapacitet inom artificiell intelligens. En av de mest anmärkningsvärda händelserna av djupa förfalskningar som användes i Singapore var en investeringsbedrägeri video som cirkulerade på sociala medier 2023, med vice premiärminister Lawrence Wong och en falsk voice-over som marknadsförde den falska investeringsmöjligheten.
Nederländerna har nästan dubbelt så många sökningar efter "deep fake video makers" som något annat land
Även om Nederländerna inte är särskilt högt rankat för andra deep fake-relaterade sökningar, har landet ett obestridligt intresse för att skapa just deep fake-videoinnehåll.
Antalet sökningar på "deep fake video makers" var 0,96 per 100.000 invånare - nästan dubbelt så många som i landet på andra plats - Singapore, med 0,50 sökningar per 100.000 invånare.
Nederländerna är ett annat land där djupa förfalskningar av politiker har använts för att vilseleda den allmänna opinionen. I valet i november 2023 rapporterades ett alarmerande antal djupt falska manipulationer som cirkulerade på sociala medier för många framstående politiker.
Finland har störst intresse för djupa falska bilder och nakenbilder
Slutligen rankas Finland bland de länder som är mest intresserade av deep fakes, med den högsta förekomsten av sökningar efter deep fake nude makers och image makers (0,18 per 100 000 personer för respektive sökterm).
Finland är för närvarande rankat som det nionde ledande landet när det gäller forskning och kapacitet inom artificiell intelligens. Landet hyllas ofta för sitt uppdrag att sätta utbildning i framkant i kampen mot felaktig information och falska nyheter - men som visas här avskräcker det inte alltid människor från att vara intresserade av vad dessa nya former av AI kan åstadkomma.
USA visar en anmärkningsvärd brist på intresse för djupa förfalskningar
USA anses för närvarande vara det ledande landet inom forskning och kapacitet för artificiell intelligens, så man kan föreställa sig att landet också ligger i framkant när det gäller intresse för djupa falska skapare.
Vår rankning visar dock att landet är avgjort ointresserat av att skapa djupa förfalskningar jämfört med andra länder på denna lista. USA rankas som delad tvåa tillsammans med Nederländerna och Singapore för sökningar efter djupa falska nakenmakare, men ligger i mitten av rankningen för andra relaterade termer.
Trots detta har många kända amerikanska kändisar redan blivit måltavlor för djupt falska videor och bilder som lagts ut på nätet - och USA håller redan på att utarbetande av nya lagar för att skydda individer mot den skada som djupt falskt innehåll kan orsaka.
Kina minst intresserat av djupa falska tillverkare totalt sett
Trots att Kina anses vara det näst ledande landet inom artificiell intelligens, efter USA, visar vår undersökning att Kina är det land som är minst intresserat av "deep fake makers" i alla sökfrågor.
Kina ligger längst ner i rankningen för sökningar efter deep fake-tillverkare, inklusive pornografiska sökningar, vilket tyder på att deep fakes-funktionerna kanske inte har nått landets mainstream ännu.
Men det är också viktigt att notera att sökdata kanske inte är 100% korrekta för Kina-specifika sökningar. AI är verkligen inte nytt i Kina - från djupa förfalskningar av livestreamers som kör 24/7 och skapar rubriker 2023, till en ökning av finansiella bedrägerier med hjälp av deep fake-teknik. Mer sannolikt är kanske antagandet att vi inte kan få tillgång till helt korrekta sökdata från Kina om frågor relaterade till artificiell intelligens.
Hur man upptäcker en djup fejk
För att kunna bedöma äktheten i digitalt innehåll och identifiera förfalskningar är det viktigt att veta vilka tecken man ska hålla utkik efter. Följande indikatorer kan hjälpa dig att skilja mellan äkta innehåll och sofistikerade förfalskningar:
1. Inkonsekvenser i belysning och skuggor
Deepfakes har ofta svårt att återskapa nyanserna i naturlig belysning och skuggor på ett korrekt sätt. Leta efter oegentligheter i hur ljuset interagerar med motivet, till exempel skuggor som inte stämmer överens eller inkonsekvent belysning i olika delar av scenen.
2. Anomalier i ansiktsdrag
Var mycket uppmärksam på ämnet för videon av imges ansiktsuttryck och funktioner. Deepfakes uppvisar ofta avvikelser som onaturliga blinkningar, udda läpprörelser eller ansiktsuttryck som inte stämmer överens med den känslomässiga tonen i rösten eller situationen. När tekniken blir mer avancerad kommer dessa avvikelser att bli mer och mer små.
3. Audiovisuella missanpassningar
I djupa förfalskningar kan synkroniseringen mellan ljud och visuella element vara avstängd. Kontrollera om försökspersonens läpprörelser är i perfekt synkronisering med de talade orden. Varje fördröjning eller missmatchning mellan det visuella och ljudet kan vara en röd flagga som du tittar på en djup falsk.
4. Hudtextur och hudfärg
Deepfakes kan ibland ha svårt att återskapa mänsklig hudtextur på ett realistiskt sätt. Håll utkik efter tecken på onormal hudtextur eller skiftande hudtoner som inte verkar naturliga eller konsekventa i hela videon.
5. Inkonsekvenser i bakgrunden
Analysera bakgrunden för att se tecken på förvrängning eller fluktuationer. Deepfake-teknik kan fokusera på motivet och förbise bakgrunden, vilket leder till avvikelser i den omgivande miljön.
6. Kvalitet och upplösning
Var försiktig med videor som presenteras som officiella, men som avsiktligt presenteras i låg upplösning eller kvalitet. Ibland kan skapare av djupa förfalskningar använda lägre kvalitet för att dölja brister och anomalier som skulle vara mer märkbara i högupplöst kvalitet.
Metodik
För att få fram dessa resultat hämtade vårt DailyAI-team topp 10 länder anses ligga i framkant inom AI år 2023. Vi hittade sedan den genomsnittliga månatliga sökvolymen för ett antal termer relaterade till deep fake maker och hittade det genomsnittliga antalet sökningar per 100 000 personer för att kompensera för eventuella fördomar från länder med en större befolkningsstorlek.
