Storbritannias National Cyber Security Centre (NCSC) har nylig utgitt en viktig rapport som gir en grundig vurdering av hvordan kunstig intelligens vil påvirke cybertrusselbildet de neste to årene.
Denne rapporten er et resultat av diskusjonene på Bletchley AI Safety Summit i november 2023, der AIs "doble natur" som både en fordel og en cybersikkerhetsrisiko var et hovedfokus.
Samtidig som AI-utviklingen gir nye muligheter for cyberforsvar, baner den også vei for mer sofistikerte cyberangrep som er vanskeligere å oppdage.
Rapporten antyder en fremtid der cybersikkerhetslandskapet blir stadig mer komplekst, og der kunstig intelligens spiller en sentral rolle i både forsvaret mot og tilretteleggingen for cybertrusler.
Nøkkel risikoer fra rapporten inkluderer:
- Økt omfang og konsekvenser av cyberangrep: Kunstig intelligens kommer til å øke hyppigheten og alvorlighetsgraden av cyberangrep.
- Lavere barrierer for cyberkriminelle på begynnernivå: AI-teknologi gjør det enklere for amatører og uerfarne nettkriminelle å utføre effektive dataangrep.
- Utbredt tilgang til AI-aktiverte cyberfunksjoner: Den økende tilgjengeligheten av AI-verktøy i kriminelle og kommersielle markeder vil sannsynligvis gi cybertrusselaktører nye tilnærmingsmåter.
- Økte utfordringer innen cyberrobusthet: Kunstig intelligens vil gjøre det vanskeligere å skille mellom legitim og ondsinnet kommunikasjon, noe som vil forsterke utfordringene knyttet til cybersikkerhet.
- Sosial manipulering: Kunstig intelligens forbedrer trusselaktørenes evne til sosial manipulering ved å generere autentisk utseende lokkedokumenter og kommunikasjon som er nødvendig for phishing-svindel.
- Utvikling av skadelig programvare og exploits: Kunstig intelligens vil sannsynligvis bidra til å utvikle skadevare og utnyttelsesstrategier, og gjøre eksisterende teknikker mer effektive.
- Rekognosering: Kunstig intelligens vil forbedre rekognoseringsaktivitetene, slik at trusselaktører raskere kan identifisere verdifulle ressurser for undersøkelse og eksfiltrering (uautorisert dataoverføring).
Lindy Cameron, administrerende direktør i NCSC, forklarte rapporten: "Den nye bruken av kunstig intelligens i cyberangrep er evolusjonær og ikke revolusjonerende, noe som betyr at den forsterker eksisterende trusler som løsepengevirus, men ikke endrer risikolandskapet på kort sikt."
Dette kan føre til en økning i cyberangrep, spesielt løsepengevirus, fra mindre erfarne enkeltpersoner eller grupper. Det er imidlertid fortsatt statlige trusselaktører som har de beste forutsetningene for å utnytte kunstig intelligens til å utvikle avansert skadevare.
Vi har allerede sett potensialet i svindelorienterte generative AI-verktøy som FraudGPT og WormGPT.
I likhet med NCSC har også tidligere rapporter i samme retning fremhevet AIs demokratisering og skalering av cyberangrep, inkludert OpenAI, som nylig kunngjort sine planer for å slå ned på desinformasjon og valgfusk.
OpenAI er samarbeider nå med det amerikanske forsvarsdepartementet for å støtte og innovere cyberforsvar, blant annet, og kunngjorde en $1 million i tilskudd for løsninger i fjor.
