Microsoft har rapportert om misbruk av selskapets AI-teknologi av statssponsede hackere fra Russland, Kina og Iran.
Microsoft samarbeidet med OpenAI om å observere aktiviteter utført av grupper knyttet til russisk militær etterretning, Irans revolusjonsgarde og kinesiske og nordkoreanske myndigheter, og brukte avanserte AI-verktøy til å finpusse hackerstrategiene deres og lage overbevisende villedende meldinger.
Som en del av Microsoft og OpenAIs forskningforstyrret de aktivitetene til fem statsstøttede ondsinnede grupper ved å stenge tilgangen deres til OpenAIs tjenester.
Blant disse er to aktører med tilknytning til Kina, Charcoal Typhoon og Salmon Typhoon, Crimson Sandstorm fra Iran, Emerald Sleet, som er knyttet til Nord-Korea, og Forest Blizzard, som har tilknytning til Russland.
Disse gruppene utnyttet OpenAIs tjenester til oppgaver som å søke etter åpen kildekode-informasjon, oversette, identifisere kodingsfeil og utføre grunnleggende kodingsoppgaver. Mer spesifikt:
- Charcoal Typhoon brukte OpenAIs tjenester til å undersøke selskaper og cybersikkerhetsverktøy, feilsøke kode, generere skript og lage phishing-innhold.
- Salmon Typhoon brukte OpenAIs tjenester til å oversette tekniske dokumenter, samle inn etterretning om ulike byråer, hjelpe til med koding og forske på stealth-teknikker.
- Crimson Sandstorm brukte OpenAIs tjenester for skriptstøtte i app- og nettutvikling, for å lage spear-phishing-innhold og for å utforske metoder for å unndra seg angrep.
- Emerald Sleet brukte OpenAIs tjenester til å identifisere forsvarseksperter og -organisasjoner, forstå sårbarheter, hjelpe til med grunnleggende skripting og utarbeide phishing-materiale.
- Forest Blizzard brukte OpenAIs tjenester hovedsakelig til forskning på satellitt- og radarteknologi med åpen kildekode og til hjelp med skripting.
Det faktum at internasjonale trusselaktører bruker OpenAIs teknologi, er et eksempel på AIs dobbeltbruksproblematikk.
Trusselaktører velger bevisst OpenAIs modeller i stedet for å utvikle sine egne. Det er billigere, raskere og mer effektivt. Suverene verktøy med åpen kildekode er imidlertid trolig på trappene.
Tom Burt, Microsofts visepresident for kundesikkerhet, uttalte følgende om funnene: "Uavhengig av om det foreligger lovbrudd eller brudd på tjenestevilkårene, ønsker vi bare ikke at de aktørene vi har identifisert - som vi sporer og vet er trusselaktører av ulike slag - skal ha tilgang til denne teknologien."
Microsoft forbyr alle AI-applikasjoner eller arbeidsmengder som driftes på Azure for disse statsstøttede gruppene. Biden-administrasjonen ba nylig om at teknologiselskaper rapportere visse utenlandske brukere av skyteknologi.
Kina svarte via den amerikanske ambassadens talsperson Liu Pengyu, som fordømte beskyldningene som ubegrunnede og tok til orde for ansvarlig bruk av AI-teknologi til fordel for menneskeheten.
Kina har samarbeidet med USA om AI-sikkerhet bak lukkede dørermen kanskje mer av ren nødvendighet enn av lyst eller ønske.
Dette er den siste i en rekke rapporter med cyberkriminalitetstema fra Microsoft de siste månedene, inkludert en i fjor som diskuterte AI-generert propaganda som stammer fra Kina og Nord-Korea.
Det må imidlertid sies at AI-trusler finnes overalt. Deep fake-svindel øker kraftig i USA, Storbritannia og andre vestlige og europeiske land, på samme måte som i Østen.
Microsoft sporer nå over 300 unike trusselaktører, inkludert nasjonalstatlige aktører og ransomware-grupper, og utnytter AI for å forbedre forsvaret og forstyrre ondsinnede aktiviteter.
AI-cybertrusler er på fremmarsj, og faktum er at de er internasjonale og vanskelige å demme opp for.
