Google Cloud har släppt sin prognos för cybersäkerhet och cyberbrottslighet för 2024 och hotet från AI står högst upp på listan.
Bedragare har länge använt sig av nätfiske via e-post och SMS, men enligt rapporten kommer stora språkmodeller (LLM) att göra det svårare att upptäcka dessa.
Tidigare kan dina misstankar ha väckts av den dåliga grammatiken och stavningen som den "nigerianska prinsen" använde i sitt e-postmeddelande om en fantastisk ekonomisk möjlighet som han ville dela med dig.
En bedragare kan nu enkelt köra sin pitch genom en LLM för att översätta och polera den innan den landar i din inkorg. Prognosen förväntar sig också att bedragare kommer att använda legitimt innehåll för att uppmana en LLM och sedan generera modifierade versioner som ser ut och känns som originalet.
Generativ AI förväntas också göra det möjligt för bedragare att gå från traditionella e-post- och SMS-taktiker till AI-genererade röst- och videobedrägerier.
LLM och gen AI kommer att möjliggöra bedragare att göra sitt arbete i stor skala och även göra sina meddelanden mycket mer anpassade för personaliserade attacker.
I prognosen konstaterades också att när angripare använder falska nyheter för att lura människor kommer samhällets förtroende för alla nyhets- och informationskällor att urholkas.
Hur kommer cybersäkerhet att se ut 2024?
Skaffa ditt exemplar av rapporten Google Cloud Cybersecurity Forecast 2024 för insikter om angriparnas taktik och verksamhet under det kommande året →. https://t.co/APJfNoEQNC pic.twitter.com/1Kpr04nsUR
- Google Cloud (@googlecloud) 8 november 2023
AI-cyberbrott som tjänst
Tidigare i år skrev vi om BedrägeriGPTen chatbot som uppenbarligen är gjord specifikt för hacking och bedrägeri. Det fanns en hel del skepsis kring hur användbar den skulle vara för att hjälpa brottslingar, men Google förväntar sig att vi kommer att se fler av dessa verktyg i framtiden.
Prognosen förklarade att vi sannolikt kommer att se AI-cyberbrottsverktyg som erbjuds som en tjänst. Rapporten sa: "De kommer att erbjudas i underjordiska forum som en betaltjänst och användas för olika ändamål som phishing-kampanjer och spridning av desinformation."
Cyberbrottslighet riktar sig vanligtvis mot individer eller företag, men prognosen ser andra mål än ekonomisk vinning vid horisonten.
Inför presidentvalet i USA nästa år konstateras i rapporten att "vi kommer att få se nationalstater och andra hotaktörer ägna sig åt en rad olika cyberaktiviteter, inklusive spionage och påverkansoperationer riktade mot valsystemen, efterliknande av kandidater på sociala medier och informationsoperationer som är utformade för att rikta sig mot väljarna själva".
De fyra stora
I Googles prognos listas Kina, Ryssland, Nordkorea och Iran som de största cyberhoten mot resten av världen.
Förutom spionage står det också att Kina och Ryssland kommer att fortsätta att rikta in sig på afrikanska länder med desinformation, särskilt länder med fyndigheter av sällsynta jordartsmetaller som är viktiga i många högteknologiska produkter.
Prognosen pekade ut OS i Paris 2024 som ett specifikt mål som brottslingar och antieuropeiska aktörer skulle rikta in sig på. Detta verkar redan ske med en deepfake av Tom Cruise som visar sig kritisera IOK.
I vad som påstås vara en Netflix-reklamfilm verkar Tom Cruise säga att korrupta tjänstemän "långsamt och smärtsamt förstör de olympiska sporter som har funnits i tusentals år".
En AI-"Tom Cruise" ansluter sig till de falska nyheter som riktas mot OS.https://t.co/YV2Hkp1Hdp
- POLITICOEurope (@POLITICOEurope) 10 november 2023
Eftersom ryska idrottare inte tillåts tävla under sitt lands flagga är det en rimlig gissning att pro-Kremlin-aktörer är källan till denna deepfake.
Googles prognos är en dyster läsning och det verkar som om det mycket väl kan vara Mission Impossible att helt undvika AI-driven cyberbrottslighet.
