A IA enganou um trabalhador do sector financeiro de uma empresa multinacional, levando-o a transferir $25,6 milhões de euros para os autores da fraude.
Estes burlões utilizaram falsificações geradas por IA para imitar a aparência e a voz dos colegas de topo do empregado, incluindo o Diretor Financeiro (CFO), durante uma chamada de videoconferência.
Noticiado pela primeira vez pela CNN e transmitido pelo superintendente sénior Baron Chan Shun-ching da divisão de segurança cibernética da polícia de Hong Kong, este é provavelmente o esquema de falsificação profunda de IA de maior risco que vimos até à data.
A burla começava com uma mensagem enganosa, alegadamente do diretor financeiro da empresa sediada no Reino Unido, convidando o empregado para uma videochamada para discutir uma transação financeira confidencial.
Apesar de algumas suspeitas e de a natureza secreta do pedido ter levantado bandeiras vermelhas, as convincentes falsificações profundas acabaram por dissipar as dúvidas do funcionário durante a videochamada.
Na sequência das transacções fraudulentas, o empregado contactou a sede da empresa, tendo-se apercebido do erro.
As falsificações profundas de IA têm sido utilizadas para uma série de fraudes, incluindo várias que visam figuras políticas e públicas como Elon Musk e Sr. Besta e Primeiro-ministro do Reino Unido Rishi Sunak.
Estudos descobrem que os humanos já não conseguem distinguir com fiabilidade rostos reais de falsificações sofisticadas, e alguns 1/4 das pessoas são enganadas por vozes geradas por IA.
O influenciador das redes sociais Eddie Cumberbatch também foi vítima de um golpe de IA quando os seus avós receberam um chamada fraudulenta a fazer-se passar pela sua voz. As vozes falsas e profundas afirmavam que ele tinha sofrido um acidente de viação e precisava urgentemente de dinheiro, o que tem sido um tema comum em burlas deste tipo.
Chan explicou este recente incidente de fraude, referindo: "O trabalhador foi atraído para uma videoconferência que se dizia ter muitos participantes. A aparência realista dos indivíduos na chamada levou o trabalhador a executar 15 transacções em cinco contas bancárias locais, num total de $200 milhões de HK".
Chan sublinhou ainda a importância da sensibilização do público para as tácticas de engano apoiadas pela IA, afirmando: "Queremos alertar o público para estas novas tácticas de engano. Os autores de fraudes estão agora a utilizar a tecnologia de IA em reuniões online, o que torna crucial que as pessoas se mantenham vigilantes, mesmo em grandes grupos".
No ano passado, Steve Grobman, Diretor de Tecnologia da McAfee, alertado para fraudes graves"Uma das coisas mais importantes a reconhecer com os avanços na IA este ano é que se trata, em grande parte, de colocar estas tecnologias ao alcance de muito mais pessoas, incluindo a possibilidade de aumentar a escala dentro da comunidade de ciber-actores".
"Os cibercriminosos conseguem utilizar a IA generativa para vozes falsas e deepfakes de formas que costumavam exigir muito mais sofisticação."
A polícia de Hong Kong insta os trabalhadores a verificarem os convites para reuniões suspeitas através dos canais de comunicação habituais da empresa e a participarem nas reuniões para confirmarem a autenticidade dos participantes.
As pessoas devem também estabelecer palavras de código com os seus amigos e familiares para se protegerem contra fraudes falsas.
Se alguma coisa levantar suspeitas, peça-lhes a palavra de código ou faça-lhes uma pergunta pessoal sobre si, sobre eles, sobre a sua família ou algo semelhante.
