Microsoft har slagit larm om nya tekniska hot som kommer från Kina och Nordkorea och som utnyttjar AI för att genomföra skadliga operationer riktade mot USA.
Rapporten från Microsoft Threat Analysis Center (MTAC) fokuserar på hur AI används som vapen för att skapa social osämja och äventyra den nationella säkerheten.
"Under det senaste året har Kina finslipat en ny förmåga att automatiskt generera bilder som de kan använda för påverkansoperationer som syftar till att efterlikna amerikanska väljare över hela det politiska spektrumet och skapa kontroverser längs rasistiska, ekonomiska och ideologiska linjer", säger Microsoft konstaterade i sin rapport.
Företaget utarbetade tekniken bakom dessa operationer: "Den här nya kapaciteten drivs av artificiell intelligens som försöker skapa högkvalitativt innehåll som kan bli viralt över sociala nätverk i USA och andra demokratier."
Den fortsätter: "Dessa bilder skapas troligen av något som kallas diffusionsdrivna bildgeneratorer som använder AI för att inte bara skapa övertygande bilder utan också lära sig att förbättra dem över tiden."
Vi har redan sett många bevis på att detta förekommer på hemmaplan, inklusive virala bedrägerier associerade med Elon Musk, falska bilder av explosioner vid Pentagonoch en mystisk AI-genererad intervju som påstods innehålla en djup falsk version av Donald Trumps röst innan observatörerna vände och sa att det var verkligt.
Det senare är ett exempel på hur djupa förfalskningar också skapar en "lögnens utdelning" där politiker och offentliga personer kan tillbakavisa något som fläckar deras rykte som "falskt" när det är äkta, vilket belyser de mångfacetterade riskerna med att blanda ihop verklighet och förfalskningar.
Kampanjens fokus och mål
Enligt Microsoft utnyttjar kinesiska statsanknutna aktörer AI för att rikta in sig på politiskt splittrande frågor i USA, som t.ex. vapenvåld.
Tidigare idag, Google föreskrev att AI-genererade politiska annonser tydligt måste ange detta om de innehåller "syntetiskt innehåll som på ett inautentiskt sätt avbildar verkliga eller realistiskt utseende personer eller händelser".
"Den här tekniken ger ett mer iögonfallande innehåll än de tafatta digitala teckningar och bildcollage som använts i tidigare kampanjer", säger Microsofts rapport och tillägger att tekniken bara kommer att förbättras.
Microsoft lyfte också fram hoten från Nordkorea och sa: "Utöver vad vi har sett från Kina är Nordkorea ett kapabelt cyberhot som fokuserar på underrättelseinhämtning och stöld av kryptovaluta som behövs för att generera intäkter till staten."
Löpande hotbildsbedömning
MTAC:s nya rapport är en del av en pågående serie som syftar till att utvärdera digitala hot från Östasien.
Den beskriver specifika sektorer och regioner med förhöjd risk och understryker behovet av kollektiva åtgärder för att styra styrningen av den internationella AI-industrin, som har hettat till de senaste veckorna.
Under tiden fortsätter den amerikanska regeringen att stänga av Kinas upphandling av avancerade chip avsedda för träning av AI, främst inköpta från Nvidia.
Kina planerar att skapa en egen inhemsk industri för tillverkning av chip för att minska beroendet av AI-hårdvara utomlands.
Microsoft slår larm om de eskalerande geopolitiska spänningarna mellan Kina och USA, och AI ligger i skärningspunkten.
