Microsoft ha lanciato un allarme sulle nuove minacce tecnologiche provenienti dalla Cina e dalla Corea del Nord che sfruttano l'intelligenza artificiale per condurre operazioni dannose rivolte agli Stati Uniti.
Il rapporto del Microsoft Threat Analysis Center (MTAC) si concentra sull'armamento dell'IA per seminare discordia sociale e compromettere la sicurezza nazionale.
"Nell'ultimo anno, la Cina ha affinato una nuova capacità di generare automaticamente immagini che può utilizzare per operazioni di influenza volte a imitare gli elettori statunitensi in tutto lo spettro politico e a creare controversie su base razziale, economica e ideologica", spiega Microsoft. ha dichiarato nel suo rapporto.
L'azienda ha spiegato la tecnologia alla base di queste operazioni: "Questa nuova capacità è alimentata dall'intelligenza artificiale che cerca di creare contenuti di alta qualità che potrebbero diventare virali sui social network negli Stati Uniti e in altre democrazie".
E continua: "Queste immagini sono molto probabilmente create da qualcosa chiamato generatori di immagini a diffusione che utilizzano l'intelligenza artificiale non solo per creare immagini convincenti, ma anche per imparare a migliorarle nel tempo".
Abbiamo già visto molte prove di questo fenomeno a livello nazionale, tra cui le truffe virali associato a Elon Musk, immagini false di esplosioni al Pentagonoe una misteriosa intervista generata dall'intelligenza artificiale che avrebbe incluso un versione falsa e profonda della voce di Donald Trump prima che gli osservatori facessero marcia indietro e dicessero che era reale.
Quest'ultimo è un esempio di come i falsi profondi creino anche un "dividendo bugiardo" in cui politici e personaggi pubblici possono confutare come "falso" qualcosa che infanga la loro reputazione quando invece è autentico, evidenziando i rischi a più livelli di confondere realtà e falsi.
Focus e obiettivi della campagna
Secondo Microsoft, gli attori cinesi affiliati allo Stato stanno sfruttando l'intelligenza artificiale per colpire questioni politicamente divisive negli Stati Uniti, come la violenza delle armi.
Prima di oggi, Google ha stabilito che gli annunci politici generati dall'IA devono indicarlo chiaramente se includono "contenuti sintetici che raffigurano in modo non autentico persone o eventi reali o dall'aspetto realistico".
"Questa tecnologia produce contenuti più accattivanti rispetto ai goffi disegni digitali e ai collage di foto stock utilizzati nelle campagne precedenti", si legge nel rapporto di Microsoft, aggiungendo che la tecnologia non potrà che migliorare.
Microsoft ha anche evidenziato le minacce provenienti dalla Corea del Nord, affermando: "Oltre a quanto abbiamo osservato dalla Cina, la Corea del Nord è una minaccia informatica capace di concentrarsi sulla raccolta di informazioni e sul furto di criptovalute necessarie per generare entrate per lo Stato".
Valutazione della minaccia in corso
Il nuovo rapporto dell'MTAC fa parte di una serie in corso di valutazione delle minacce digitali provenienti dall'Asia orientale.
Il documento delinea settori e regioni specifiche a maggior rischio e sottolinea la necessità di un'azione collettiva per guidare la governance dell'industria internazionale dell'IA, che si è riscaldata nelle ultime settimane.
Nel frattempo, il governo degli Stati Uniti continua a tagliare la strada alla Cina. approvvigionamento di chip di fascia alta progettati per l'addestramento delle IA, acquistati principalmente da Nvidia.
La Cina intende creare una propria industria nazionale di produzione di chip per ridurre la dipendenza dall'estero per l'hardware AI.
Microsoft lancia l'allarme sull'escalation delle tensioni geopolitiche tra Cina e Stati Uniti e l'intelligenza artificiale si trova al suo incrocio.
