O Google Cloud divulgou a sua previsão de cibersegurança e cibercrime para 2024 e a ameaça da IA está no topo da sua lista.
Há muito tempo que os burlões utilizam mensagens de correio eletrónico e SMS de phishing, mas o relatório afirma que os modelos de linguagem de grande dimensão (LLM) vão tornar mais difícil detectá-los.
Anteriormente, as suas suspeitas podem ter sido levantadas pela má gramática e ortografia que o "príncipe nigeriano" utilizou no seu e-mail sobre uma grande oportunidade financeira que queria partilhar consigo.
Um burlão pode agora passar facilmente o seu discurso por um LLM para o traduzir e aperfeiçoar antes de chegar à sua caixa de correio eletrónico. A previsão também espera que os burlões utilizem conteúdos legítimos para solicitar um LLM e, em seguida, gerem versões modificadas que se assemelhem ao original.
Prevê-se também que a IA generativa permita aos burlões passar das tácticas tradicionais de correio eletrónico e SMS para as burlas de voz e vídeo geradas por IA.
Os LLM e a IA de género permitirão burlões para fazer o seu trabalho em grande escala e também tornar as suas mensagens muito mais personalizadas para ataques personalizados.
As previsões referem ainda que, à medida que os atacantes utilizam notícias falsas para enganar as pessoas, a confiança da sociedade em todas as fontes de notícias e de informação será corroída.
Como será a cibersegurança em 2024?
Obtenha a sua cópia do relatório Google Cloud Cybersecurity Forecast 2024 para obter informações sobre as tácticas e operações dos atacantes no próximo ano → https://t.co/APJfNoEQNC pic.twitter.com/1Kpr04nsUR
- Google Cloud (@googlecloud) 8 de novembro de 2023
A cibercriminalidade como um serviço
No início deste ano, escrevemos sobre FraudeGPT, um chatbot aparentemente criado especificamente para pirataria informática e burla. Houve um certo ceticismo quanto à sua utilidade para ajudar os criminosos, mas a Google espera ver mais ferramentas destas no futuro.
A previsão explicou que é provável que as ferramentas de cibercrime com IA sejam oferecidas como um serviço. Serão oferecidas em fóruns clandestinos como um serviço pago e utilizadas para vários fins, como campanhas de phishing e disseminação de desinformação", lê-se no relatório.
A cibercriminalidade visa normalmente indivíduos ou empresas, mas as previsões apontam para outros objectivos para além do lucro financeiro.
Com as eleições presidenciais norte-americanas a decorrer no próximo ano, o relatório afirma: "Veremos Estados-nação e outros agentes de ameaças a envolverem-se numa variedade de actividades cibernéticas, incluindo espionagem e operações de influência dirigidas aos sistemas eleitorais, personificação de candidatos nas redes sociais e operações de informação concebidas para visar os próprios eleitores".
Os quatro grandes
A previsão da Google indica a China, a Rússia, a Coreia do Norte e o Irão como as principais ameaças cibernéticas para o resto do mundo.
Para além da espionagem, a China e a Rússia continuarão a visar os países africanos com desinformação, especialmente os países com depósitos de terras raras, essenciais em muitos produtos de alta tecnologia.
A previsão apontava os Jogos Olímpicos de Paris de 2024 como um alvo específico para os criminosos e actores anti-europeus. Isto parece já estar a acontecer, com um deepfake de Tom Cruise a criticar o COI.
No que parece ser uma promoção da Netflix, Tom Cruise parece dizer que os funcionários corruptos estão "a destruir lenta e dolorosamente os desportos olímpicos que existiram durante milhares de anos".
Um "Tom Cruise" da IA junta-se à barragem de notícias falsas que visam os Jogos Olímpicos.https://t.co/YV2Hkp1Hdp
- POLITICOEurope (@POLITICOEurope) 10 de novembro de 2023
Com os atletas russos proibidos de competir sob a bandeira do seu país, é de apostar que os actores pró-Kremlin são a fonte deste deepfake.
As previsões da Google são muito sombrias e parece que escapar completamente à cibercriminalidade baseada em IA pode ser uma Missão Impossível.