Microsoft har slått alarm om nye teknologiske trusler fra Kina og Nord-Korea som utnytter kunstig intelligens til å utføre ondsinnede operasjoner rettet mot USA.
Rapporten fra Microsoft Threat Analysis Center (MTAC) fokuserer på bruken av kunstig intelligens som våpen for å skape sosial splid og svekke nasjonal sikkerhet.
"I løpet av det siste året har Kina finpusset en ny evne til automatisk å generere bilder de kan bruke til påvirkningsoperasjoner som skal etterligne amerikanske velgere på tvers av det politiske spekteret og skape kontroverser langs rasemessige, økonomiske og ideologiske skillelinjer", skriver Microsoft uttalte i sin rapport.
Selskapet utdypet teknologien bak disse operasjonene: "Denne nye kapasiteten er drevet av kunstig intelligens som forsøker å skape innhold av høy kvalitet som kan gå viralt på tvers av sosiale nettverk i USA og andre demokratier."
Videre står det: "Disse bildene er mest sannsynlig skapt av noe som kalles diffusjonsdrevne bildegeneratorer som bruker kunstig intelligens til ikke bare å skape overbevisende bilder, men også til å lære seg å forbedre dem over tid."
Vi har allerede sett mange bevis på at dette skjer her hjemme, inkludert virale svindelforsøk assosiert med Elon Muskfalske bilder av eksplosjonene i Pentagonog et mystisk AI-generert intervju som angivelig skulle inneholde en dyp falsk versjon av Donald Trumps stemme før observatører snudde og sa at det var ekte.
Sistnevnte er et eksempel på hvordan dype forfalskninger også skaper et "løgnerutbytte" der politikere og offentlige personer kan tilbakevise noe som svekker omdømmet deres som "falskt" når det er ekte, noe som understreker risikoen ved å blande sammen virkelighet og forfalskninger på flere nivåer.
Kampanjens fokus og mål
Ifølge Microsoft utnytter kinesiske statstilknyttede aktører kunstig intelligens til å målrette politisk splittende saker i USA, som for eksempel vold med skytevåpen.
Tidligere i dag, Google fastslo at AI-genererte politiske annonser tydelig må angi dette hvis de inneholder "syntetisk innhold som på uekte vis avbilder virkelige eller realistisk utseende personer eller hendelser".
"Denne teknologien produserer mer iøynefallende innhold enn de pinlige digitale tegningene og bildecollagene som ble brukt i tidligere kampanjer", heter det i Microsofts rapport, som legger til at teknologien bare vil bli bedre.
Microsoft fremhevet også truslene fra Nord-Korea og uttalte: "I tillegg til det vi har observert fra Kina, er Nord-Korea en kompetent cybertrussel som fokuserer på etterretningsinnsamling og tyveri av kryptovaluta som er nødvendig for å generere inntekter til staten."
Løpende trusselvurdering
MTACs nye rapport er en del av en pågående serie som tar sikte på å evaluere digitale trusler fra Øst-Asia.
Den skisserer spesifikke sektorer og regioner som er utsatt for økt risiko, og understreker behovet for kollektiv handling for å styre styringen av den internasjonale AI-industrien, som har blitt stadig mer opphetet de siste ukene.
I mellomtiden fortsetter den amerikanske regjeringen å avskjære Kinas innkjøp av avanserte chips utviklet for opplæring av kunstig intelligens, hovedsakelig kjøpt fra Nvidia.
Kina planlegger å skape sin egen innenlandske chip-produksjonsindustri for å redusere avhengigheten av AI-maskinvare fra utlandet.
Microsoft slår alarm om de økende geopolitiske spenningene mellom Kina og USA, og AI ligger i skjæringspunktet.
