Microsoft har slået alarm over nye teknologiske trusler fra Kina og Nordkorea, som udnytter AI til at udføre ondsindede operationer rettet mod USA.
Rapporten fra Microsoft Threat Analysis Center (MTAC) fokuserer på brugen af kunstig intelligens som våben til at skabe social splid og kompromittere den nationale sikkerhed.
"I det seneste år har Kina finpudset en ny evne til automatisk at generere billeder, som de kan bruge til påvirkningsoperationer, der skal efterligne amerikanske vælgere på tværs af det politiske spektrum og skabe kontroverser langs racemæssige, økonomiske og ideologiske linjer," siger Microsoft. sagde i sin rapport.
Virksomheden uddybede teknologien bag disse operationer: "Denne nye kapacitet er drevet af kunstig intelligens, der forsøger at skabe indhold af høj kvalitet, som kan gå viralt på tværs af sociale netværk i USA og andre demokratier."
Den fortsætter: "Disse billeder er sandsynligvis skabt af noget, der kaldes diffusionsdrevne billedgeneratorer, som bruger AI til ikke bare at skabe overbevisende billeder, men også lære at forbedre dem over tid."
Vi har allerede set masser af beviser på, at dette sker herhjemme, herunder virale svindelnumre forbundet med Elon Muskfalske billeder af eksplosioner i Pentagonog et mystisk AI-genereret interview, der angiveligt skulle indeholde en dyb falsk version af Donald Trumps stemme før observatører vendte på en tallerken og sagde, at den var ægte.
Sidstnævnte er et eksempel på, hvordan dybe forfalskninger også skaber et "løgnagtigt udbytte", hvor politikere og offentlige personer kan afvise noget, der skader deres omdømme, som "falsk", når det er ægte, hvilket fremhæver de mangeartede risici ved at sammenblande virkelighed og forfalskninger.
Kampagnens fokus og mål
Ifølge Microsoft udnytter kinesiske statstilknyttede aktører AI til at målrette politisk splittende emner i USA, som f.eks. vold med våben.
Tidligere i dag, Google fastslog at AI-genererede politiske annoncer tydeligt skal angive dette, hvis de indeholder "syntetisk indhold, der på uægte vis afbilder virkelige eller realistisk udseende mennesker eller begivenheder".
"Denne teknologi producerer mere iøjnefaldende indhold end de akavede digitale tegninger og fotocollager, der blev brugt i tidligere kampagner," står der i Microsofts rapport, som tilføjer, at teknologien kun vil blive bedre.
Microsoft fremhævede også trusler fra Nordkorea og sagde: "Ud over det, vi har observeret fra Kina, er Nordkorea en dygtig cybertrussel, der fokuserer på efterretningsindsamling og tyveri af kryptovaluta, der er nødvendig for at generere indtægter til staten."
Løbende vurdering af trusler
MTAC's nye rapport er en del af en løbende serie, der har til formål at evaluere digitale trusler fra Østasien.
Den skitserer specifikke sektorer og regioner med øget risiko og understreger behovet for kollektiv handling for at styre den internationale AI-industri, som er blevet ophedet i de seneste uger.
I mellemtiden fortsætter den amerikanske regering med at afskære Kinas indkøb af avancerede chips designet til at træne AI'er, hovedsageligt købt fra Nvidia.
Kina planlægger at skabe sin egen indenlandske chipproduktionsindustri for at reducere afhængigheden af AI-hardware fra udlandet.
Microsoft slår alarm over de eskalerende geopolitiske spændinger mellem Kina og USA, og AI ligger i krydsfeltet.
