Google Cloud har publisert sin prognose for cybersikkerhet og cyberkriminalitet for 2024, og trusselen fra AI står øverst på listen.
Svindlere har brukt phishing-e-post og SMS-meldinger i lang tid, men rapporten sier at store språkmodeller (LLM) kommer til å gjøre det vanskeligere å oppdage disse.
Tidligere har du kanskje blitt mistenksom på grunn av den dårlige grammatikken og stavemåten den "nigerianske prinsen" brukte i e-posten sin om en fantastisk økonomisk mulighet han ville dele med deg.
En svindler kan nå enkelt kjøre pitchen sin gjennom en LLM for å oversette og finpusse den før den lander i innboksen din. Prognosen forventer også at svindlere vil bruke legitimt innhold for å få en LLM til å generere modifiserte versjoner som ser ut og føles som originalen.
Generativ AI forventes også å gjøre det mulig for svindlere å gå fra tradisjonelle e-post- og SMS-taktikker til AI-generert tale- og videosvindel.
LLM-er og gen AI vil gjøre det mulig svindlere til å gjøre arbeidet sitt i stor skala og også gjøre meldingene deres mye mer tilpasset for personaliserte angrep.
Prognosen viser også at når angriperne bruker falske nyheter til å svindle folk, vil samfunnets tillit til alle nyhets- og informasjonskilder svekkes.
Hvordan vil cybersikkerhet se ut i 2024?
Få et eksemplar av Google Cloud Cybersecurity Forecast 2024-rapporten for å få innsikt i angripernes taktikker og operasjoner i året som kommer →. https://t.co/APJfNoEQNC pic.twitter.com/1Kpr04nsUR
- Google Cloud (@googlecloud) 8. november 2023
AI-datakriminalitet som en tjeneste
Tidligere i år skrev vi om SvindelGPTen chatbot som tilsynelatende er laget spesielt for hacking og svindel. Det var en god del skepsis til hvor nyttig den ville være for å hjelpe kriminelle, men Google forventer at vi vil se flere av disse verktøyene i fremtiden.
Prognosen forklarte at vi sannsynligvis vil se AI-verktøy for nettkriminalitet bli tilbudt som en tjeneste. I rapporten står det: "De vil bli tilbudt i undergrunnsfora som en betalt tjeneste, og brukes til ulike formål som phishing-kampanjer og spredning av desinformasjon."
Cyberkriminalitet er vanligvis rettet mot enkeltpersoner eller selskaper, men ifølge prognosene er det andre mål enn økonomisk vinning som ligger i horisonten.
I rapporten heter det at "vi vil se nasjonalstater og andre trusselaktører engasjere seg i en rekke ulike cyberaktiviteter, blant annet spionasje og påvirkningsoperasjoner rettet mot valgsystemene, etterligning av kandidater på sosiale medier og informasjonsoperasjoner rettet mot velgerne selv".
De fire store
Googles prognose lister opp Kina, Russland, Nord-Korea og Iran som de største cybertruslene mot resten av verden.
I tillegg til spionasje sier den også at Kina og Russland vil fortsette å rette desinformasjon mot afrikanske land, særlig land med forekomster av sjeldne jordarter som er viktige i mange høyteknologiske produkter.
Prognosen pekte på OL i Paris i 2024 som et spesifikt mål for kriminelle og anti-europeiske aktører. Dette ser ut til å skje allerede, med en deepfake av Tom Cruise som viser seg å kritisere IOC.
I det som utgir seg for å være en Netflix-reklame, ser det ut til at Tom Cruise sier at korrupte tjenestemenn "sakte og smertefullt ødelegger de olympiske idrettene som har eksistert i tusenvis av år".
En AI-"Tom Cruise" slutter seg til de falske nyhetene som er rettet mot OL.https://t.co/YV2Hkp1Hdp
- POLITICOEurope (@POLITICOEurope) 10. november 2023
Ettersom russiske idrettsutøvere ikke har lov til å konkurrere under landets flagg, er det rimelig å anta at det er Kreml-vennlige aktører som står bak denne deepfake.
Googles prognose er dyster lesning, og det ser ut til at det å unngå AI-drevet nettkriminalitet helt og holdent kan være Mission Impossible.
