Embora a proliferação de ferramentas e tecnologias de IA já tenha proporcionado inúmeros benefícios tanto para os indivíduos como para as empresas, também é verdade que a maior acessibilidade às ferramentas de IA teve consequências prejudiciais no nível de desinformação divulgada no mundo.
A utilização de falsificações profundas para deturpar figuras influentes é uma preocupação crescente em todo o mundo - sendo a desinformação classificada como a principal ameaça que o mundo enfrentará nos próximos dois anos pelo Fórum Económico Mundial Relatório sobre os riscos globais (2024).
A desinformação sobre a IA é um problema global - mas que países estão a lutar mais ferozmente contra este problema? Neste estudo, a nossa equipa da DailyAI considerou os países líderes em inteligência artificial (determinados pela capacidade de investigação) e analisou a frequência média e a profundidade do interesse em ferramentas relacionadas com o deep fake.
Principais conclusões:
- Singapura, Austrália, Finlândia e Países Baixos ocupam os primeiros lugares entre os países mais interessados na criação de falsificações profundas
- De acordo com as nossas conclusões, a China, apesar de ser o segundo país líder no domínio da inteligência artificial, é o país menos interessado na inteligência artificial em geral
Sam Jeans, especialista em IA do DailyAI, comenta:
"O aumento vertiginoso das falsificações profundas e dos conteúdos manipulados publicados em linha tem sido, compreensivelmente, um enorme motivo de preocupação para os governos de todo o mundo, uma vez que, a nível global, tentamos encontrar os limites correctos entre o aproveitamento de tecnologias novas e emergentes e a luta contra aquilo que pode causar danos sem paralelo.
Estas conclusões demonstram que o interesse pela manipulação de conteúdos falsos é certamente mais prevalecente nalguns países do que noutros, mas com este conteúdo acessível a uma escala global, será necessário um esforço de grupo para garantir que os danos causados pelos conteúdos falsos são minimizados".
Austrália mais interessada em fabricantes de falsificações profundas
Ao avaliar os 10 principais países da inteligência artificial quanto ao seu interesse em criadores de deep fake e pesquisas relacionadas, descobrimos que a Austrália se destaca como o país mais interessado, com uma taxa de ocorrência de 0,41 em 100.000 pessoas.
A Austrália também figura entre os três principais países com mais pesquisas por "deep fake porn maker" e em quarto lugar por "deep fake image maker". A Austrália é atualmente considerada o sexto país mais importante em termos de capacidades e investigação em matéria de inteligência artificial.
No final de 2023, a Austrália anunciou que iria pressionar as plataformas de redes sociais para reprimir as imagens e os vídeos falsos profundos, após uma preocupação crescente com o nível de conteúdos ofensivos e de comentários de ódio difundidos em linha.
Singapura mais fascinada pelas capacidades de pornografia profunda e falsa
As nossas análises também mostraram que Singapura foi o país que mais procurou por criadores de pornografia falsa profunda, com uma taxa de ocorrência de 0,50 por 100.000 pessoas. Além disso, o país é o segundo mais interessado em criadores de vídeos falsos profundos e o segundo mais interessado em "criadores de nus falsos profundos". As pesquisas por este termo têm uma taxa de ocorrência de 0,17 por cada 100.000 pessoas - a mesma dos Países Baixos e dos EUA.
Esta constatação é algo surpreendente, tendo em conta que o interesse de Singapura por "deep fake makers" em geral é muito inferior, estando o país a meio da classificação para esse termo de pesquisa.
No entanto, Singapura é também o segundo país mais fascinado pelo termo de pesquisa "deep fake image maker", com uma taxa de ocorrência de 0,17 por 100.000 pessoas. O país está em segundo lugar, apenas atrás da Finlândia, no que respeita a este termo de pesquisa.
Singapura está classificada como o terceiro país líder em investigação e capacidades de inteligência artificial. Uma das ocorrências mais notáveis de deep fakes utilizadas em Singapura foi um vídeo sobre o esquema de investimento que circulou nas redes sociais em 2023, utilizando o Vice-Primeiro-Ministro, Lawrence Wong, e uma voz falsa a promover a oportunidade de investimento fraudulenta.
Os Países Baixos têm quase o dobro das pesquisas por criadores de vídeos falsos do que qualquer outro país
Embora os Países Baixos não apareçam muito bem noutras pesquisas relacionadas com deep fake, o país tem um interesse inegável na produção de conteúdos de vídeo deep fake em particular.
A ocorrência de pesquisas por "deep fake video makers" foi de 0,96 por 100.000 pessoas - quase o dobro do país que ficou em segundo lugar - Singapura, mais uma vez, com 0,50 pesquisas por 100.000 pessoas.
Os Países Baixos são outro país onde falsificações profundas de políticos têm sido utilizados para enganar a opinião pública. Nas eleições de novembro de 2023, foi noticiado um número alarmante de manipulações falsas profundas que circulavam nas redes sociais de vários políticos proeminentes.
A Finlândia tem o maior interesse em imagens falsas e nus profundos
Por último, a Finlândia está entre os países mais interessados em deep fakes, com a maior ocorrência de pesquisas por "deep fake nude makers" e "image makers" (0,18 por 100.000 pessoas para cada termo de pesquisa).
A Finlândia está atualmente classificada como o nono país líder em investigação e capacidade de inteligência artificial. O país é frequentemente aplaudido pela sua missão de colocar a educação na vanguarda da batalha contra a desinformação e as notícias falsas - mas, como demonstrado aqui, isso nem sempre impede as pessoas de se interessarem pelo que estas novas formas de IA podem alcançar.
Os EUA demonstram uma notável falta de interesse em falsificações profundas
Os EUA são atualmente considerados o país líder na investigação e nas capacidades de inteligência artificial, pelo que se pode imaginar que o país também esteja na vanguarda de qualquer interesse em criadores de falsificações profundas.
No entanto, os nossos rankings mostram que o país está decididamente desinteressado na criação de deep fakes quando comparado com outros países desta lista. Os EUA ocupam o segundo lugar, juntamente com a Holanda e Singapura, nas pesquisas por criadores de nus falsos profundos, mas estão a meio da classificação para outros termos relacionados.
No entanto, muitas celebridades norte-americanas de renome já foram alvo de vídeos e imagens profundamente falsos publicados em linha - e os EUA já estão a elaboração de novas leis para proteger as pessoas contra os danos que os conteúdos falsos podem causar.
A China é o país menos interessado em fabricantes de produtos falsos em geral
Apesar de ser considerado o segundo país líder no domínio da inteligência artificial, apenas atrás dos EUA, a China surge na nossa investigação como o país menos interessado em criadores de conteúdos falsos em todas as consultas de pesquisa.
A China ocupa o último lugar na classificação das pesquisas de fabricantes de deep fakes, incluindo pesquisas pornográficas, o que sugere que as capacidades dos deep fakes podem ainda não ter chegado ao mainstream do país.
No entanto, também é importante notar que os dados de pesquisa podem não ser 100% exactos para pesquisas específicas na China. A IA não é certamente uma novidade na China - desde fakes profundos de livestreamers a funcionar 24 horas por dia, 7 dias por semana, a fazer manchetes em 2023, a um aumento de fraudes financeiras utilizando tecnologia de falsificação profunda. Talvez mais provável seja a hipótese de não conseguirmos aceder a dados de pesquisa completamente exactos da China sobre consultas relacionadas com a inteligência artificial.
Como detetar uma falsificação profunda
Para discernir a autenticidade do conteúdo digital e identificar falsificações profundas, é importante saber quais os sinais indicadores a ter em conta. Os seguintes indicadores podem ajudá-lo a distinguir entre conteúdo genuíno e falsificações sofisticadas:
1. Inconsistências na iluminação e nas sombras
Os deepfakes têm muitas vezes dificuldade em reproduzir com exatidão as nuances da luz natural e das sombras. Procure irregularidades na forma como a luz interage com o motivo, como sombras desencontradas ou iluminação inconsistente em diferentes partes da cena.
2. Anomalias dos traços faciais
Preste muita atenção às expressões faciais e características do sujeito do vídeo da imge. Os deepfakes apresentam frequentemente anomalias como pestanejar não natural, movimentos estranhos dos lábios ou expressões faciais que não se alinham com o tom emocional da voz ou da situação. À medida que a tecnologia se torna mais avançada, estas anomalias serão cada vez mais ligeiras.
3. Incompatibilidades audiovisuais
Nas falsificações profundas, a sincronização entre os elementos sonoros e visuais pode estar desligada. Verifique se os movimentos labiais do sujeito estão em perfeita sincronia com as palavras faladas. Qualquer atraso ou desfasamento entre o visual e o áudio pode ser um sinal de alerta de que se está perante uma deep fake.
4. Textura e tez da pele
Os deepfakes podem, por vezes, ter dificuldade em reproduzir a textura da pele humana de forma realista. Fique atento a quaisquer sinais de textura anormal da pele ou tons de pele variáveis que não pareçam naturais ou consistentes ao longo do vídeo.
5. Inconsistências de antecedentes
Analise o fundo para detetar quaisquer sinais de distorção ou flutuação. A tecnologia Deepfake pode concentrar-se no motivo e ignorar o fundo, o que leva a anomalias no ambiente circundante.
6. Qualidade e resolução
Tenha cuidado com os vídeos que são apresentados como oficiais, mas que são intencionalmente apresentados em baixa resolução ou qualidade. Por vezes, os criadores de falsificações profundas podem utilizar uma qualidade inferior para ocultar imperfeições e anomalias que seriam mais visíveis em alta definição.
Metodologia
Para obter estas conclusões, a nossa equipa do DailyAI obteve o 10 principais países considerados como estando na vanguarda da IA em 2023. Em seguida, encontrámos o volume médio mensal de pesquisas para uma série de termos relacionados com criadores de deep fake e encontrámos o número médio de pesquisas por 100.000 pessoas para compensar qualquer preconceito de países com uma população maior.
