Microsoft ha denunciato l'uso improprio delle sue tecnologie di intelligenza artificiale da parte di hacker sponsorizzati dallo Stato provenienti da Russia, Cina e Iran.
Microsoft ha collaborato con OpenAI per osservare le attività di gruppi legati all'intelligence militare russa, alla Guardia rivoluzionaria iraniana e ai governi cinese e nordcoreano, utilizzando strumenti avanzati di intelligenza artificiale per affinare le loro strategie di hacking e creare messaggi ingannevoli e convincenti.
Come parte di La ricerca di Microsoft e OpenAIhanno interrotto le attività di cinque gruppi maligni sostenuti dallo Stato, interrompendo il loro accesso ai servizi di OpenAI.
Questi includono due attori affiliati alla Cina, Charcoal Typhoon e Salmon Typhoon; Crimson Sandstorm dall'Iran; Emerald Sleet, legato alla Corea del Nord; e Forest Blizzard, associato alla Russia.
Questi gruppi sfruttavano i servizi di OpenAI per compiti quali l'interrogazione di informazioni open-source, la traduzione, l'identificazione di errori di codifica e l'esecuzione di compiti di codifica di base. In particolare:
- Charcoal Typhoon utilizzava i servizi di OpenAI per la ricerca di aziende e strumenti di cybersicurezza, il debug del codice, la generazione di script e la creazione di contenuti di phishing.
- Salmon Typhoon ha utilizzato i servizi di OpenAI per la traduzione di documenti tecnici, la raccolta di informazioni su varie agenzie, l'assistenza alla codifica e la ricerca di tecniche stealth.
- Crimson Sandstorm si è avvalso dei servizi di OpenAI per il supporto allo scripting nello sviluppo di app e web, per la creazione di contenuti di spear-phishing e per l'esplorazione di metodi di evasione.
- Emerald Sleet ha sfruttato i servizi di OpenAI per identificare esperti e organizzazioni di difesa, comprendere le vulnerabilità, fornire assistenza per lo scripting di base e preparare materiale di phishing.
- Forest Blizzard ha utilizzato i servizi di OpenAI principalmente per la ricerca open-source sulle tecnologie satellitari e radar e per l'assistenza allo scripting.
Il fatto che gli attori delle minacce internazionali stiano usando la tecnologia di OpenAI incarna l'enigma del doppio uso dell'IA.
Gli attori delle minacce scelgono deliberatamente i modelli di OpenAI piuttosto che svilupparne di propri. È più economico, più veloce e più efficace. Tuttavia, gli strumenti open source sovrani sono probabilmente in fase di sviluppo.
Tom Burt, vicepresidente di Microsoft per la sicurezza dei clienti, ha dichiarato: "Indipendentemente dal fatto che ci sia o meno una violazione della legge o dei termini di servizio, non vogliamo che gli attori che abbiamo identificato - che tracciamo e sappiamo essere attori di minacce di vario tipo - abbiano accesso a questa tecnologia".
Microsoft sta vietando qualsiasi applicazione di intelligenza artificiale o carico di lavoro ospitato su Azure per questi gruppi sostenuti dallo Stato. L'amministrazione Biden ha recentemente richiesto alle aziende tecnologiche segnalare alcuni utenti stranieri di tecnologia cloud.
La Cina ha risposto attraverso il portavoce dell'ambasciata statunitense Liu Pengyu, che ha denunciato le accuse come infondate e ha auspicato un impiego responsabile delle tecnologie AI a beneficio dell'umanità.
La Cina ha collaborato con il Gli Stati Uniti sulla sicurezza dell'IA a porte chiusema forse per pura necessità piuttosto che per desiderio o volontà.
Questo è l'ultimo di una serie di rapporti sul tema dei crimini informatici pubblicati da Microsoft negli ultimi mesi, tra cui uno dell'anno scorso in cui si parlava della propaganda generata dall'intelligenza artificiale proveniente da Cina e Corea del Nord.
Tuttavia, va detto che le minacce dell'IA sono ovunque. Le frodi "deep fake" sono in forte aumento negli Stati Uniti, nel Regno Unito e in altre nazioni occidentali ed europee, così come in Oriente.
Microsoft sta attualmente monitorando oltre 300 attori unici delle minacce, tra cui attori di Stati nazionali e gruppi di ransomware, sfruttando l'intelligenza artificiale per migliorare le loro difese e interrompere le attività dannose.
Le minacce informatiche dell'intelligenza artificiale sono in aumento e il fatto è che sono internazionali e difficili da contenere.
