Google Cloud har offentliggjort sin prognose for cybersikkerhed og cyberkriminalitet for 2024, og truslen fra AI står øverst på listen.
Svindlere har brugt phishing-mails og sms'er i lang tid, men rapporten siger, at store sprogmodeller (LLM) vil gøre det sværere at spotte dem.
Tidligere er du måske blevet mistænksom på grund af den dårlige grammatik og stavning, som den "nigerianske prins" brugte i sin e-mail om en fantastisk økonomisk mulighed, som han ville dele med dig.
En svindler kan nu nemt køre sit pitch gennem en LLM for at oversætte og finpudse det, før det lander i din indbakke. Prognosen forventer også, at svindlere vil bruge legitimt indhold til at sætte gang i en LLM og derefter generere modificerede versioner, der ligner og føles som originalen.
Generativ AI forventes også at gøre det muligt for svindlere at gå fra traditionelle e-mail- og SMS-taktikker til AI-genererede stemme- og videosvindel.
LLM'er og gen AI vil gøre det muligt svindlere til at udføre deres arbejde i stor skala og også gøre deres meddelelser meget mere tilpassede til personlige angreb.
Prognosen bemærkede også, at når angribere bruger falske nyheder til at snyde folk, vil samfundets tillid til alle nyheds- og informationskilder blive undermineret.
Hvordan vil cybersikkerhed se ud i 2024?
Få dit eksemplar af rapporten Google Cloud Cybersecurity Forecast 2024 for at få indsigt i angribernes taktikker og operationer i det kommende år →. https://t.co/APJfNoEQNC pic.twitter.com/1Kpr04nsUR
- Google Cloud (@googlecloud) 8. november 2023
AI-cyberkriminalitet som en tjeneste
Tidligere i år skrev vi om SvindelGPTen chatbot, der tilsyneladende er lavet specielt til hacking og svindel. Der var en del skepsis over for, hvor nyttig den ville være til at hjælpe kriminelle, men Google forventer, at vi vil se flere af disse værktøjer i fremtiden.
Prognosen forklarede, at vi sandsynligvis vil se AI-cyberkriminalitetsværktøjer blive tilbudt som en service. Rapporten sagde: "De vil blive tilbudt i undergrundsfora som en betalt tjeneste og blive brugt til forskellige formål som f.eks. phishing-kampagner og spredning af desinformation."
Cyberkriminalitet er normalt rettet mod enkeltpersoner eller virksomheder, men prognosen ser andre mål end økonomisk gevinst i horisonten.
Når det amerikanske præsidentvalg finder sted næste år, siger rapporten: "Vi vil se nationalstater og andre trusselsaktører engagere sig i en række cyberaktiviteter, herunder spionage og påvirkningsoperationer rettet mod valgsystemerne, efterligning af kandidater på sociale medier og informationsoperationer designet til at ramme vælgerne selv."
De fire store
Googles prognose nævner Kina, Rusland, Nordkorea og Iran som de største cybertrusler mod resten af verden.
Ud over spionage står der også, at Kina og Rusland vil fortsætte med at målrette misinformation mod afrikanske lande, især lande med forekomster af sjældne jordarter, som er vigtige i mange højteknologiske produkter.
Prognosen pegede på OL i Paris i 2024 som et specifikt mål, som kriminelle og antieuropæiske aktører ville gå efter. Det ser allerede ud til at ske med en deepfake af Tom Cruise, der viser sig at kritisere IOC.
I det, der angiveligt er en Netflix-promovering, ser Tom Cruise ud til at sige, at korrupte embedsmænd "langsomt og smertefuldt ødelægger de olympiske sportsgrene, der har eksisteret i tusindvis af år."
En AI-"Tom Cruise" slutter sig til den falske nyhedsspærre, der er rettet mod OL.https://t.co/YV2Hkp1Hdp
- POLITICOEurope (@POLITICOEurope) 10. november 2023
Da russiske atleter ikke må konkurrere under deres lands flag, er det et rimeligt bud, at pro-Kreml-aktører er kilden til denne deepfake.
Googles prognose er dyster læsning, og det ser ud til, at det meget vel kan være Mission Impossible helt at undgå AI-drevet cyberkriminalitet.
