A Google prevê que a IA desempenhe um papel importante na cibersegurança

11 de novembro de 2023

Ferramentas de cibercriminalidade com IA
Um perigoso hacker encapuzado invade os servidores de dados do governo e infecta o seu sistema com um vírus. O seu esconderijo tem uma atmosfera escura, vários ecrãs e cabos por todo o lado.

O Google Cloud divulgou a sua previsão de cibersegurança e cibercrime para 2024 e a ameaça da IA está no topo da sua lista.

Há muito tempo que os burlões utilizam mensagens de correio eletrónico e SMS de phishing, mas o relatório afirma que os modelos de linguagem de grande dimensão (LLM) vão tornar mais difícil detectá-los.

Anteriormente, as suas suspeitas podem ter sido levantadas pela má gramática e ortografia que o "príncipe nigeriano" utilizou no seu e-mail sobre uma grande oportunidade financeira que queria partilhar consigo.

Um burlão pode agora passar facilmente o seu discurso por um LLM para o traduzir e aperfeiçoar antes de chegar à sua caixa de correio eletrónico. A previsão também espera que os burlões utilizem conteúdos legítimos para solicitar um LLM e, em seguida, gerem versões modificadas que se assemelhem ao original.

Prevê-se também que a IA generativa permita aos burlões passar das tácticas tradicionais de correio eletrónico e SMS para as burlas de voz e vídeo geradas por IA.

Os LLM e a IA de género permitirão burlões para fazer o seu trabalho em grande escala e também tornar as suas mensagens muito mais personalizadas para ataques personalizados.

As previsões referem ainda que, à medida que os atacantes utilizam notícias falsas para enganar as pessoas, a confiança da sociedade em todas as fontes de notícias e de informação será corroída.

A cibercriminalidade como um serviço

No início deste ano, escrevemos sobre FraudeGPT, um chatbot aparentemente criado especificamente para pirataria informática e burla. Houve um certo ceticismo quanto à sua utilidade para ajudar os criminosos, mas a Google espera ver mais ferramentas destas no futuro.

A previsão explicou que é provável que as ferramentas de cibercrime com IA sejam oferecidas como um serviço. Serão oferecidas em fóruns clandestinos como um serviço pago e utilizadas para vários fins, como campanhas de phishing e disseminação de desinformação", lê-se no relatório.

A cibercriminalidade visa normalmente indivíduos ou empresas, mas as previsões apontam para outros objectivos para além do lucro financeiro.

Com as eleições presidenciais norte-americanas a decorrer no próximo ano, o relatório afirma: "Veremos Estados-nação e outros agentes de ameaças a envolverem-se numa variedade de actividades cibernéticas, incluindo espionagem e operações de influência dirigidas aos sistemas eleitorais, personificação de candidatos nas redes sociais e operações de informação concebidas para visar os próprios eleitores".

Os quatro grandes

A previsão da Google indica a China, a Rússia, a Coreia do Norte e o Irão como as principais ameaças cibernéticas para o resto do mundo.

Para além da espionagem, a China e a Rússia continuarão a visar os países africanos com desinformação, especialmente os países com depósitos de terras raras, essenciais em muitos produtos de alta tecnologia.

A previsão apontava os Jogos Olímpicos de Paris de 2024 como um alvo específico para os criminosos e actores anti-europeus. Isto parece já estar a acontecer, com um deepfake de Tom Cruise a criticar o COI.

No que parece ser uma promoção da Netflix, Tom Cruise parece dizer que os funcionários corruptos estão "a destruir lenta e dolorosamente os desportos olímpicos que existiram durante milhares de anos".

Com os atletas russos proibidos de competir sob a bandeira do seu país, é de apostar que os actores pró-Kremlin são a fonte deste deepfake.

As previsões da Google são muito sombrias e parece que escapar completamente à cibercriminalidade baseada em IA pode ser uma Missão Impossível.

Junte-se ao futuro


SUBSCREVER HOJE

Claro, conciso e abrangente. Fique a par dos desenvolvimentos da IA com DailyAI

Eugene van der Watt

Eugene vem de uma formação em engenharia eletrónica e adora tudo o que é tecnologia. Quando faz uma pausa no consumo de notícias sobre IA, pode encontrá-lo à mesa de snooker.

×

PDF GRATUITO EXCLUSIVO
Fique à frente com o DailyAI

Subscreva a nossa newsletter semanal e receba acesso exclusivo ao último livro eletrónico do DailyAI: 'Mastering AI Tools: Seu guia 2024 para aumentar a produtividade'.

*Ao subscrever a nossa newsletter, aceita a nossa Política de privacidade e o nosso Termos e condições