Se da un lato la proliferazione degli strumenti e delle tecnologie di IA ha già apportato numerosi benefici a individui e aziende, è anche vero che la maggiore accessibilità agli strumenti di IA ha avuto conseguenze dannose sul livello di disinformazione diffuso nel mondo.
L'uso di falsi profondi per travisare figure influenti è una preoccupazione crescente in tutto il mondo, con la disinformazione e la disinformazione classificate come la minaccia numero uno per il mondo nei prossimi due anni dal World Economic Forum. Rapporto sui rischi globali (2024).
La disinformazione dell'IA è un problema globale, ma quali sono i Paesi che la combattono con maggior vigore? In questo studio, il nostro team di DailyAI ha preso in considerazione i Paesi leader nel settore dell'intelligenza artificiale (determinati in base alla capacità di ricerca) e ha analizzato la frequenza media e la profondità dell'interesse per gli strumenti legati al deep fake.
Risultati principali:
- Singapore, Australia, Finlandia e Paesi Bassi si aggiudicano i primi posti tra i paesi più interessati alla creazione di falsi profondi.
- La Cina, pur essendo il secondo paese leader nel settore dell'intelligenza artificiale, si classifica come il paese meno interessato all'intelligenza artificiale in generale, secondo i nostri risultati.
Sam Jeans, esperto di AI di DailyAI, commenta:
"L'aumento vertiginoso di falsi profondi e di contenuti manipolati pubblicati online è stato comprensibilmente un'enorme fonte di preoccupazione per i governi di tutto il mondo, poiché a livello globale cerchiamo di trovare i giusti confini tra lo sfruttamento delle tecnologie nuove ed emergenti e la lotta contro ciò che può causare danni ineguagliabili.
Questi risultati dimostrano che l'interesse per la manipolazione deep fake è certamente più diffuso in alcuni Paesi rispetto ad altri, ma con questi contenuti accessibili su scala globale, sarà necessario uno sforzo di gruppo per garantire che i danni causati dai contenuti deep fake siano ridotti al minimo."
L'Australia è la più interessata ai produttori di falsi profondi
Valutando i primi 10 Paesi in cui l'intelligenza artificiale è interessata ai deep fake maker e alle ricerche correlate, abbiamo scoperto che l'Australia si distingue come il Paese più interessato, con un tasso di occorrenza di 0,41 su 100.000 persone.
L'Australia figura anche tra i primi tre Paesi con il maggior numero di ricerche per "deep fake porn maker" e al quarto posto per "deep fake image maker". L'Australia è attualmente considerata il sesto Paese leader per capacità di intelligenza artificiale e ricerca.
Alla fine del 2023, l'Australia ha annunciato che sarà pressione sulle piattaforme di social media per dare un giro di vite alle immagini e ai video falsi e profondi, dopo la crescente preoccupazione per il livello di contenuti offensivi e commenti di odio diffusi online.
Singapore è la città più affascinata dalle capacità di deep fake porn
I nostri dati analitici hanno anche mostrato che Singapore si è classificata al primo posto in assoluto per le ricerche di "deep fake porn maker", con un tasso di occorrenza di 0,50 su 100.000 persone. Inoltre, il Paese è al secondo posto per interesse nei creatori di video deep fake e al secondo posto per interesse nei "creatori di nudi deep fake". Le ricerche di questo termine hanno un tasso di occorrenza di 0,17 per 100.000 persone, lo stesso dei Paesi Bassi e degli Stati Uniti.
Questo risultato è in qualche modo sorprendente se si considera che l'interesse di Singapore per i "deep fake maker" in generale è molto più basso, con il Paese che si trova a metà della classifica per questo termine di ricerca.
Singapore è tuttavia anche il secondo Paese più affascinato dal termine di ricerca "deep fake image maker", con un tasso di occorrenza di 0,17 per 100.000 persone. Il Paese è secondo solo alla Finlandia per questo termine di ricerca.
Singapore è il terzo Paese per ricerca e capacità di intelligenza artificiale. Uno dei casi più notevoli di deep fake utilizzati a Singapore è stato quello di una video della truffa sugli investimenti che circolava sui social media nel 2023, utilizzando il vice primo ministro Lawrence Wong e una finta voce fuori campo che promuoveva la truffaldina opportunità di investimento.
I Paesi Bassi hanno quasi il doppio delle ricerche di creatori di video deep fake rispetto a qualsiasi altro paese
Sebbene i Paesi Bassi non siano particolarmente presenti nelle altre ricerche relative ai deep fake, il Paese ha un innegabile interesse nella produzione di contenuti video deep fake.
L'incidenza delle ricerche di deep fake video maker è stata di 0,96 per 100.000 persone, quasi il doppio rispetto al secondo Paese, Singapore, con 0,50 ricerche per 100.000 persone.
I Paesi Bassi sono un altro paese in cui falsi profondi di politici sono stati utilizzati per fuorviare l'opinione pubblica. In occasione delle elezioni del novembre 2023, è stato segnalato un numero allarmante di falsi manipolati sui social media di numerosi politici di spicco.
In Finlandia c'è il più alto interesse per le immagini e i nudi falsi profondi
Infine, la Finlandia si colloca tra i Paesi più interessati ai deep fake, con la più alta frequenza di ricerche di creatori di nudi e immagini deep fake (0,18 per 100.000 persone per ciascun termine di ricerca).
La Finlandia è attualmente al nono posto nella classifica dei Paesi leader nella ricerca e nelle capacità in materia di intelligenza artificiale. Il Paese viene spesso applaudito per la sua missione di mettere l'educazione in prima linea della battaglia contro la disinformazione e le fake news, ma come dimostrato qui, questo non sempre dissuade le persone dall'interessarsi a ciò che queste nuove forme di IA possono realizzare.
Gli Stati Uniti mostrano un notevole disinteresse per le falsificazioni profonde
Gli Stati Uniti sono attualmente considerati il Paese leader nella ricerca e nelle capacità dell'intelligenza artificiale, quindi si potrebbe immaginare che il Paese sia anche in prima linea nell'interesse per i creatori di deep fake.
Tuttavia, le nostre classifiche mostrano che il Paese è decisamente poco interessato alla creazione di deep fake rispetto ad altri Paesi di questo elenco. Gli Stati Uniti si posizionano al secondo posto insieme ai Paesi Bassi e a Singapore per quanto riguarda le ricerche di creatori di nudi finti profondi, ma si collocano a metà classifica per altri termini correlati.
Ciononostante, molte celebrità statunitensi di alto profilo sono già state bersaglio di video e immagini falsificati pubblicati online e gli Stati Uniti stanno già procedendo a elaborazione di nuove leggi per proteggere le persone dai danni che i contenuti falsi possono causare.
La Cina è complessivamente la meno interessata ai produttori di falsi profondi
Nonostante sia considerato il secondo Paese leader per l'intelligenza artificiale, dietro solo agli Stati Uniti, la Cina emerge dalla nostra ricerca come il Paese meno interessato ai deep fake maker in tutte le query di ricerca.
La Cina si colloca in fondo alla classifica per le ricerche di deep fake maker, comprese quelle pornografiche, suggerendo che le capacità dei deep fake potrebbero non aver ancora raggiunto il mainstream del Paese.
Tuttavia, è anche importante notare che i dati di ricerca potrebbero non essere 100% accurati per le ricerche specifiche della Cina. L'intelligenza artificiale non è certo una novità per la Cina: da falsi profondi di livestreamer in esecuzione 24 ore su 24, 7 giorni su 7, nel 2023, ad un aumento di truffe finanziarie utilizzando la tecnologia deep fake. Forse più probabile è l'ipotesi che non siamo in grado di accedere a dati di ricerca completamente accurati dalla Cina su query legate all'intelligenza artificiale.
Come riconoscere un falso profondo
Per discernere l'autenticità dei contenuti digitali e identificare i falsi profondi, è importante sapere quali sono i segni rivelatori a cui prestare attenzione. I seguenti indicatori possono aiutarvi a distinguere tra contenuti autentici e sofisticati falsi:
1. Incoerenze nell'illuminazione e nelle ombre
I deepfake spesso faticano a replicare con precisione le sfumature dell'illuminazione naturale e delle ombre. Cercate le irregolarità nel modo in cui la luce interagisce con il soggetto, come ombre non corrispondenti o illuminazione incoerente in diverse parti della scena.
2. Anomalie dei tratti del viso
Prestare molta attenzione alle espressioni facciali e ai lineamenti del soggetto del video di imge. I deepfake spesso presentano anomalie come battiti di ciglia innaturali, strani movimenti delle labbra o espressioni facciali non in linea con il tono emotivo della voce o della situazione. Con l'avanzare della tecnologia, queste anomalie saranno sempre più lievi.
3. Disadattamento audiovisivo
Nei falsi profondi, la sincronizzazione tra elementi audio e visivi può non essere perfetta. Controllate se i movimenti delle labbra del soggetto sono perfettamente sincronizzati con le parole pronunciate. Eventuali ritardi o discrepanze tra l'audio e il video possono essere un segnale di allarme che indica che ci troviamo di fronte a un deep fake.
4. Struttura e carnagione della pelle
I deepfake a volte faticano a replicare in modo realistico la texture della pelle umana. Fate attenzione a eventuali segni di texture della pelle anormale o a toni della pelle mutevoli che non sembrano naturali o coerenti nel corso del video.
5. Incoerenze di fondo
Analizzare lo sfondo per individuare eventuali segni di distorsione o fluttuazione. La tecnologia Deepfake potrebbe concentrarsi sul soggetto e trascurare lo sfondo, causando anomalie nell'ambiente circostante.
6. Qualità e risoluzione
Fate attenzione ai video presentati come ufficiali, ma intenzionalmente a bassa risoluzione o qualità. A volte, i creatori di falsi profondi possono utilizzare una qualità inferiore per nascondere imperfezioni e anomalie che sarebbero più evidenti in alta definizione.
Metodologia
Per ottenere questi risultati, il nostro team di DailyAI ha cercato i dati di top 10 paesi ritenuti all'avanguardia nell'IA nel 2023. Abbiamo quindi rilevato il volume medio di ricerca mensile per una serie di termini relativi ai deep fake maker e abbiamo trovato il numero medio di ricerche per 100.000 persone per compensare eventuali pregiudizi derivanti da Paesi con una popolazione più numerosa.
