Estão a circular no Facebook falsos esquemas de investimento em criptomoedas que incentivam os utilizadores a depositar dinheiro numa plataforma de negociação falsa que lhes garante milhares de euros.
A última de uma sequência de fraudes assistidas por IA envolve um artigo falso que descreve a personalidade da TV britânica Ben Fogle promovendo uma plataforma de criptografia falsa no programa de TV Good Morning Britain.
Isto veio a lume através de um familiar que viu a burla no Facebook e me telefonou a perguntar sobre o assunto.
Eles sabiam que algo estava errado, mas havia alguma hesitação. Não parecia uma burla normal.
Não consegui encontrar o conteúdo original para analisar a presença de quaisquer imagens, áudio ou vídeo gerados por IA. No entanto, parece que alguém publicou uma versão copiada e colada do esquema no Medium aqui e aqui.
Os artigos do Medium apresentam imagens capturadas no ecrã, mas estas não parecem ter sido geradas por IA.
Isto assemelha-se a um anterior fraude envolvendo o jornalista e radialista Martin Lewis, que apresentava um vídeo falso de Martin Lewis juntamente com uma imagem de Elon Musk.
O primeiro-ministro do Reino Unido, Rishi Sunak, também foi visado através de centenas de esquemas falsos profundos, mais uma vez publicado principalmente no Facebook.
No incidente com Martin Lewis, o avatar digital de Lewis, um vídeo falso gerado por IA, disse: "Elon Musk apresentou o seu novo projeto, no qual já investiu mais de $3bn (£2.4bn). O novo projeto de Musk abre grandes oportunidades de investimento para os cidadãos britânicos. Nunca nenhum projeto deu tais oportunidades aos residentes do país. Dadas as características interessantes da aplicação e tendo visto como funciona, pensamos que é seguro dizer que a experiência é legítima".
Mais tarde, Lewis apareceu no programa de televisão "Good Morning Britain" para denunciar a fraude como sendo falsa, afirmando"Isto é uma falsificação profunda. Quer dizer, eles montaram-no, não temos a certeza da tecnologia exacta. Isto está a circular no Facebook neste momento e, tanto quanto sei, é o primeiro anúncio fraudulento de deepfake que vimos".
A roleta falsa e profunda
Para quem não conhece, Ben Fogle ficou conhecido por ter ganho o Castaway 2000, um programa de televisão que seguiu 36 pessoas abandonadas na ilha escocesa de Taransay durante um ano.
O esquema diz:
"Escritor, ator, apresentador e comediante inglês. Ben Fogle também tem sido um ativista público, Ben Fogle ganhou fama como um falador direto e impetuoso que não se importa de ser honesto sobre a forma como ganha o seu dinheiro."
"Na semana passada, apareceu no The This Morning Show e anunciou uma nova "brecha na riqueza" que, segundo ele, pode transformar qualquer pessoa num milionário em 3-4 meses. Fogle exortou toda a gente no Reino Unido a aproveitar esta fantástica oportunidade antes que os grandes bancos a fechem de vez."
Um artigo continua com uma transcrição falsa de uma conversa com os apresentadores do Good Morning Britain, Ben Shepherd e Susanna Reid:
"Ben Fogle: "Pensa nisso. Se um homem pode tornar-se milionário em menos de dois meses, porquê continuar a trabalhar? Claro que toda a gente pode usar o meu método, mas quem trabalharia em restaurantes, lojas ou fábricas se toda a gente fosse rica?"
Ben Shephard: "Isto parece demasiado bom para ser verdade. Sempre acreditei que eras honesto e sincero, mas não acredito em ti."
Ben Fogle : "Acabaste de me chamar mentiroso? Vou provar-lhe que qualquer pobre britânico pode ganhar milhares de libras esterlinas por dia, gastando apenas 10 a 20 minutos de tempo livre por dia. Mostro-lhe quanto é que eu próprio ganho com isso. Resumindo, as acções têm algo a ver com isso e toda a gente está a enriquecer com elas neste momento".
O Banco de Inglaterra também foi mencionado no esquema:
"Pouco depois, o Banco de Inglaterra telefonou para o estúdio. O seu medo levou-os a exigir que a transmissão em direto fosse interrompida imediatamente. Tirar partido da IA Imediata Xgen faria com que o sistema bancário perdesse clientes. A única coisa para que as pessoas usariam os seus cartões seria para levantar os seus rendimentos da plataforma. Isso não é rentável para nenhum banco".
Os artigos apontam para uma página de destino com o tema das criptomoedas que solicita aos utilizadores que se inscrevam, depositem dinheiro e comecem a negociar.
Diz que, depois de se inscrever, deve esperar uma chamada de um "gestor de conta" que confirmará a sua conta.
Tácticas em evolução para motivos antigos
O Fogle foi visado por alguém fingindo ser ele no início deste ano, mas talvez não seja o principal candidato a um esquema de investimento em comparação com o jornalista financeiro Martin Lewis.
Este facto levanta suspeitas de que os burlões podem estar a visar várias figuras públicas e a divulgar os conteúdos através de anúncios direccionados no Facebook.
O membro da minha família tinha gostado do programa "New Lives in the Wild" de Ben Fogle.
Coincidência? Talvez, mas é mais provável que os burlões sejam bem sucedidos se visarem interesses específicos, o que a plataforma de anúncios do Meta permite.
Estudos anteriores de fraude baseada em IA mostram como a tecnologia permite tácticas fraudulentas a uma escala imensa.
É especulativo, mas pode haver várias iterações destas fraudes ultra-orientadas à espreita nas plataformas de redes sociais.
Martin Lewis já tinha falado anteriormente sobre o facto de as empresas de redes sociais não estarem a fazer o suficiente para evitar fraudes. Este assunto envolveu uma ação judicial contra o Facebook, que concordou em doar 3 milhões de libras ao Citizens Advice e criou um projeto para evitar anúncios fraudulentos.
Lewis disse ao Good Morning Britain: "Continuamos a ter um faroeste absoluto nas redes sociais e noutras plataformas de publicidade de grande tecnologia que permite que os burlões se safem impunemente".
Com este incidente mais recente com Ben Fogle, é evidente que pouco mudou. É apenas uma questão de saber quais as figuras públicas que vão aparecer a seguir na roleta das falsificações.
A educação é fundamental para combater as falsificações profundas e outras formas de burla assistida por IA.
As conversas em torno das falsificações profundas nos meios de comunicação social parecem estar a ter algum impacto na sensibilização do público, pelo menos.
