Hoewel de proliferatie van AI-tools en -technologie al talloze voordelen heeft opgeleverd voor zowel individuen als bedrijven, is het ook waar dat de toegenomen toegankelijkheid van AI-tools schadelijke gevolgen heeft gehad voor de hoeveelheid verkeerde informatie die de wereld in wordt gestuurd.
Het gebruik van diepe vervalsingen om invloedrijke figuren in een verkeerd daglicht te stellen, is wereldwijd een groeiende bron van zorg. Desinformatie en desinformatie zijn door het World Economic Forum uitgeroepen tot de grootste bedreiging voor de wereld in de komende twee jaar. Rapport over wereldwijde risico's (2024).
AI-misinformatie is een wereldwijd probleem - maar welke landen vechten hier het felst tegen? In dit onderzoek heeft ons team bij DailyAI nam de leidende landen op het gebied van kunstmatige intelligentie (bepaald door onderzoekscapaciteit) en analyseerde de gemiddelde frequentie en diepte van de interesse in deep fake-gerelateerde tools.
Belangrijkste bevindingen:
- Singapore, Australië, Finland en Nederland staan bovenaan als het gaat om landen die het meest geïnteresseerd zijn in het maken van diepe vervalsingen
- China is weliswaar het op een na grootste land op het gebied van kunstmatige intelligentie, maar volgens onze bevindingen is het land in het algemeen het minst geïnteresseerd in kunstmatige intelligentie.
Sam Jeans, AI-expert van DailyAI, geeft commentaar:
"De sterke toename van vervalsingen en gemanipuleerde online inhoud is begrijpelijkerwijs een grote bron van zorg voor overheden over de hele wereld, omdat we wereldwijd proberen de juiste grenzen te vinden tussen het gebruik van nieuwe en opkomende technologieën en het bestrijden van zaken die ongeëvenaarde schade kunnen veroorzaken.
Deze bevindingen tonen aan dat de belangstelling voor deep fake manipulatie in sommige landen zeker groter is dan in andere, maar omdat deze inhoud wereldwijd toegankelijk is, zal er een groepsinspanning nodig zijn om ervoor te zorgen dat de schade die wordt veroorzaakt door deep fake inhoud wordt geminimaliseerd."
Australië meest geïnteresseerd in diepe nepmakers
Bij het beoordelen van de top 10 kunstmatige intelligentie landen voor hun interesse in deep fake makers en gerelateerde zoekopdrachten, ontdekten we dat Australië opvalt als de meest geïnteresseerde, met een frequentie van 0,41 op 100.000 mensen.
Australië staat ook in de top drie van landen met de meeste zoekopdrachten naar "deep fake porn maker", en op de vierde plaats voor "deep fake image maker". Australië staat op dit moment op de zesde plaats als het gaat om capaciteiten en onderzoek op het gebied van kunstmatige intelligentie.
Aan het einde van 2023 kondigde Australië aan dat ze sociale mediaplatforms onder druk zetten om hard op te treden tegen nepafbeeldingen en -video's na groeiende bezorgdheid over het niveau van beledigende inhoud en haatcommentaar dat online wordt gezet.
Singapore meest gefascineerd door diepe nepporno mogelijkheden
Onze analyses toonden ook aan dat Singapore de hoogste algemene rangschikking innam voor zoekopdrachten naar makers van diepe nepporno, met een frequentie van 0,50 per 100.000 mensen. Daarnaast is het land op de tweede plaats het meest geïnteresseerd in makers van nepvideo's en op de tweede plaats het meest in "makers van nepnaakt". Zoekopdrachten naar deze term komen 0,17 per 100.000 mensen voor - hetzelfde als in Nederland en de VS.
Deze bevinding is enigszins verrassend gezien de interesse van Singapore in algemene "deep fake makers" veel lager is - met het land in het midden van de ranglijst voor die zoekterm.
Singapore is echter ook het op één na meest gefascineerd door de zoekterm "deep fake image maker", met een frequentie van 0,17 per 100.000 mensen. Het land staat voor deze zoekterm op de tweede plaats, na Finland.
Singapore staat op de derde plaats als het gaat om onderzoek en capaciteiten op het gebied van kunstmatige intelligentie. Een van de meest opvallende voorvallen van diepe vervalsingen die in Singapore werden gebruikt, was een video beleggingszwendel die in 2023 circuleerde op sociale media, waarbij gebruik werd gemaakt van de vicepremier Lawrence Wong en een valse voice-over die de zwendel-investeringsmogelijkheid promootte.
Nederland heeft bijna twee keer zoveel zoekopdrachten naar diepe nepvideomakers als elk ander land
Hoewel Nederland niet bijzonder hoog scoort voor andere zoekopdrachten naar deep fake, heeft het land een onmiskenbaar belang in het maken van deep fake video-inhoud in het bijzonder.
Het aantal zoekopdrachten naar diepe nepvideomakers was 0,96 per 100.000 mensen - bijna het dubbele van het land dat op de tweede plaats staat - Singapore, wederom met 0,50 zoekopdrachten per 100.000 mensen.
Nederland is een ander land waar diepe vervalsingen van politici zijn gebruikt om de publieke opinie te misleiden. Bij de verkiezingen van november 2023 werd een alarmerend aantal diepe nepmanipulaties gemeld die circuleerden op sociale media van talrijke prominente politici.
Finland heeft meeste interesse in nepafbeeldingen & naaktfoto's
Tot slot staat Finland bovenaan de lijst van landen die het meest geïnteresseerd zijn in deep fakes, met de meeste zoekopdrachten naar deep fake naaktmakers en afbeeldingsmakers (0,18 per 100.000 mensen voor elke respectieve zoekterm).
Finland staat momenteel op de negende plaats van landen met de grootste onderzoeks- en capaciteiten op het gebied van kunstmatige intelligentie. Het land wordt vaak geprezen om zijn missie om kunstmatige intelligentie te ontwikkelen. onderwijs in de voorhoede van de strijd tegen desinformatie en nepnieuws - maar zoals hier wordt aangetoond, weerhoudt dat mensen er niet altijd van om geïnteresseerd te zijn in wat deze nieuwe vormen van AI kunnen bereiken.
VS toont opvallend weinig interesse in diepe vervalsingen
De VS wordt momenteel beschouwd als het leidende land op het gebied van kunstmatig intelligentieonderzoek en -capaciteiten, dus je zou je kunnen voorstellen dat het land ook in de voorhoede staat van elke interesse in diepe nepmakers.
Onze ranglijst laat echter zien dat het land beslist niet geïnteresseerd is in het maken van neppers in vergelijking met andere landen op deze lijst. De VS staat samen met Nederland en Singapore op de tweede plaats voor zoekopdrachten naar diepe nepnaaktmakers, maar is middelmatig in de ranglijst voor andere gerelateerde termen.
Desalniettemin zijn veel bekende personen in de VS al het doelwit geweest van nepvideo's en -afbeeldingen die online zijn geplaatst. nieuwe wetten opstellen om mensen te beschermen tegen de schade die valse inhoud kan veroorzaken.
China over het algemeen het minst geïnteresseerd in diepe nepmakers
Ondanks het feit dat China wordt beschouwd als het op één na meest toonaangevende land op het gebied van kunstmatige intelligentie, na alleen de VS, komt China uit ons onderzoek naar voren als het minst geïnteresseerde land in deep fake makers voor alle zoekopdrachten.
China staat onderaan de ranglijst voor zoekopdrachten naar diepe nepmakers, inclusief pornografische zoekopdrachten, wat suggereert dat de mogelijkheden van diepe nepmakers de mainstream van het land nog niet hebben bereikt.
Het is echter ook belangrijk op te merken dat zoekgegevens mogelijk niet 100% nauwkeurig zijn voor China-specifieke zoekopdrachten. AI is zeker niet nieuw voor China - van diepe vervalsingen van livestreamers 24 uur per dag, 7 dagen per week in het nieuws in 2023, tot een toename in financiële zwendel met behulp van deep fake-technologie. Wellicht waarschijnlijker is de aanname dat we niet in staat zijn om toegang te krijgen tot volledig accurate zoekgegevens uit China over kunstmatige intelligentie-gerelateerde zoekopdrachten.
Hoe herken je een diepe vervalsing
Om de authenticiteit van digitale inhoud te onderscheiden en vervalsingen te identificeren, is het belangrijk om te weten op welke verklikkerlichten je moet letten. De volgende indicatoren kunnen je helpen onderscheid te maken tussen echte content en geavanceerde vervalsingen:
1. Inconsistenties in belichting en schaduwen
Deepfakes hebben vaak moeite om de nuances van natuurlijke belichting en schaduwen nauwkeurig na te bootsen. Let op onregelmatigheden in de interactie tussen licht en het onderwerp, zoals ongelijkmatige schaduwen of inconsistente verlichting in verschillende delen van de scène.
2. Afwijkingen in gezichtskenmerken
Let goed op de gezichtsuitdrukkingen en gelaatstrekken van het onderwerp van de video of imge. Deepfakes vertonen vaak afwijkingen zoals onnatuurlijk knipperen, vreemde lipbewegingen of gezichtsuitdrukkingen die niet overeenkomen met de emotionele toon van de stem of de situatie. Naarmate de technologie geavanceerder wordt, zullen deze afwijkingen steeds kleiner worden.
3. Audiovisuele discrepanties
Bij diepe vervalsingen kan de synchronisatie tussen audio en visuele elementen niet goed zijn. Controleer of de lipbewegingen van de persoon perfect synchroon lopen met de gesproken woorden. Elke vertraging of mismatch tussen de visuele en audio kan een rode vlag zijn dat je naar een diepe vervalsing kijkt.
4. Huidtextuur en teint
Deepfakes hebben soms moeite om de menselijke huidtextuur realistisch na te bootsen. Let op tekenen van abnormale huidtextuur of verschuivende huidtinten die niet natuurlijk of consistent lijken in de video.
5. Achtergrond inconsistenties
Analyseer de achtergrond op tekenen van vervorming of fluctuatie. Deepfake-technologie kan zich richten op het onderwerp en de achtergrond over het hoofd zien, wat leidt tot afwijkingen in de omgeving.
6. Kwaliteit en resolutie
Wees voorzichtig met video's die als officieel worden gepresenteerd, maar opzettelijk in een lage resolutie of kwaliteit. Soms gebruiken makers van diepe vervalsingen een lagere kwaliteit om onvolkomenheden en afwijkingen te verbergen die in high-definition beter zouden opvallen.
Methodologie
Om deze bevindingen te krijgen, heeft ons DailyAI team de top 10 landen die worden beschouwd als koplopers op het gebied van AI in 2023. Vervolgens vonden we het gemiddelde maandelijkse zoekvolume voor een aantal deep fake maker-gerelateerde termen, en vonden we het gemiddelde aantal zoekopdrachten per 100.000 mensen om eventuele vertekeningen van landen met een grotere bevolkingsomvang te compenseren.
