Numa análise divulgada por Hyuk Kim do Centro James Martin de Estudos sobre a Não Proliferação, a Coreia do Norte está a intensificar a sua incursão na IA e no ML.
O relatório examinou as aplicações civis e militares do país, proporcionando um raro vislumbre das estratégias tecnológicas do Estado secreto.
Na década de 1990, a Coreia do Norte foi considerada um dos pioneiros da IA, com a sua Sistema Eunbyul desenvolvido pelo Centro de Computação da Coreia em 1997, ganhou competições internacionais de "Go" até 2010. Tendo vencido em Go logo em 1998, foi o líder do Campeonato Mundial de Go por computador de 2003 a 2006.
De facto, Eunbyul utilizou muitas das mesmas técnicas de Monte Carlo que o sistema AlphaGo da Google, consideravelmente mais famoso, que fez manchetes tecnológicas quando derrotou o campeão Lee Sedol em 2016. Em 2010, o Eunbyul tinha 16 CPUs, enquanto o AlphaGo tinha 1.920 em 2016.
Isto aconteceu numa altura em que as relações entre a Coreia do Norte e a Coreia do Sul, o Japão e outros países que tradicionalmente jogam Go estavam num ponto alto.
À medida que a Coreia do Norte se foi tornando cada vez mais obscura e as tensões com o Ocidente aumentaram, enquanto a nação comunista lutava contra os seus próprios demónios de pobreza e miséria, a sua indústria de IA foi inevitavelmente diminuindo.
Um estudo do Instituto de Estratégia Futura do Banco de Desenvolvimento da Coreia, de 2017, afirmava que "para garantir as mais recentes tecnologias de IA, o Norte tem de fazer um investimento maciço em hardware e software" e que "a Coreia do Norte, sem dinheiro, deverá bater num muro no desenvolvimento das tecnologias".
No entanto, este nova análise de Hyuk Kim descobriu que a Coreia do Norte tem encontrado formas de acompanhar os avanços da IA/ML nos últimos anos.
Kim observa que, embora "as tentativas de aquisição de hardware para o desenvolvimento da IA possam ser dificultadas, as informações de fonte aberta, incluindo artigos de revistas científicas e meios de comunicação social estatais, sugerem que a Coreia do Norte está a desenvolver e a promover ativamente a tecnologia de IA/ML em vários sectores".
O relatório analisa a forma como o governo, o meio académico e a indústria da Coreia do Norte colaboram para desenvolver tecnologias de IA.
Numa alteração constitucional em 2019, a Coreia do Norte acrescentou a "informatização" às suas principais estratégias económicas, ilustrando o compromisso da nação em integrar a IA no seu plano económico.
A criação do Instituto de Investigação em Inteligência Artificial em 2013, que mais tarde se fundiu com o Ministério da Indústria da Informação, também marcou um passo decisivo para intensificar a I&D em IA.
Frentes académicas e comerciais no avanço da IA
As instituições de ensino da Coreia do Norte, como a Universidade Kim Il Sung, lideram a investigação sobre IA no país.
O Centro de Desenvolvimento de Alta Tecnologia da universidade, criado em 2014, e os subsequentes programas centrados na IA noutras universidades de todo o país ilustram um enfoque rejuvenescido na tecnologia de IA.
A nível comercial, empresas norte-coreanas como a Mangyongdae Information Technology Corporation lançaram telemóveis com IA integrada e a Yalu River Technology Development Company utilizou a IA em sistemas de segurança.
O relatório de Kim descreve: "Em 2020, a Corporação de Tecnologia da Informação Mangyongdae (만경대 정보대기술사) lançado dois telemóveis, o Azalea 6 e 7 (Jindallae 6, 7, 진달래 6, 7). A empresa afirma ter incorporado com êxito tecnologias de reconhecimento de impressões digitais, voz, rosto e texto, baseadas em redes neurais profundas (DNN), neste dispositivo."
A Coreia do Norte está agora a promover ativamente a cooperação técnica nacional e, tal como referido, pretende "promover ativamente a investigação e o desenvolvimento em colaboração com empresas de TI de renome de mais de 20 países".
Entre os principais, mas ainda ténues, aliados da nação estão a Rússia e a China, mas partilham relações com o Paquistão, a Bulgária, o Benim, a Malásia e Madagáscar.
Alegadamente, também armas vendidas a países do Médio Oriente. Estas relações oferecem alguma margem de manobra para o desenvolvimento da IA norte-coreana, embora a aquisição de hardware de IA topo de gama por parte da nação a líderes como a Nvidia seja altamente restrita.
Aplicações duplas: civil e militar
Outro aspeto do estudo de Kim é o potencial de dupla utilização da IA na Coreia do Norte, algo que também é frequentemente debatido no Ocidente.
O conceito aqui é que os mesmos modelos de IA poderosos utilizados para fins amplamente "bons" também são capazes de ter impactos negativos.
A natureza de dupla utilização da IA torna a regulamentação e a proibição intrinsecamente complexas.
Na frente social da Coreia do Norte, a IA está a ser utilizada para melhorar a segurança nuclear, diz o relatório. Um exemplo digno de nota é o trabalho dos cientistas nucleares norte-coreanos Ho Il Mun e So Chol, que publicou um estudo sobre a otimização da segurança dos reactores nucleares utilizando algoritmos genéticos, uma técnica de aprendizagem automática.
Curiosamente, esta técnica envolve imitar as funções dos genes, como a mutação e o cruzamento. Foi publicada numa revista de referência, Anais da Energia Nuclear.
Simultaneamente, as potenciais aplicações militares das tecnologias de IA são exploradas no relatório de Kim.
Embora os pormenores sobre as utilizações militares não sejam muito detalhados, existem preocupações crescentes de que a IA venha a aumentar os agentes de ameaças da Coreia do Norte, da China e da Rússia.
Os piratas informáticos norte-coreanos já lançaram um vasto repertório de ciberataques bem sucedidos - que a IA poderia aumentar.
Em fevereiro de 2021, um parecer conjunto sobre cibersegurança emitido por várias agências norte-americanas e pelos serviços secretos sul-coreanos discutiu o aumento dos ataques de ransomware, visando sobretudo os sectores da saúde e da saúde pública.
A ameaça agravou-se com o Maui ransomware ataques em julho de 2022. De acordo com um comunicado conjunto do FBI, da CISA e do Departamento do Tesouro, desde, pelo menos, maio de 2021, os intervenientes patrocinados pelo Estado norte-coreano têm vindo a utilizar este ransomware específico para visar novamente o sector da saúde.
abril de 2022 viu outro desenvolvimento nas operações cibernéticas da Coreia do Norte. Um comunicado conjunto destacou o direcionamento de empresas de blockchain por um grupo de ameaças avançadas patrocinado pelo estado norte-coreano conhecido como Lazarus Group, APT38, BlueNoroff e Stardust Chollima.
Esta série de ataques culminou num processo federal nos EUA, que acusou três programadores informáticos norte-coreanos de uma conspiração criminosa em grande escala. Esta acusação expandiu-se a partir de um caso de 2018 que detalhava os ataques à Sony Pictures e ao ransomware WannaCry.
O processo alegava que estes programadores faziam parte de um esforço concertado para roubar mais de $1,3 mil milhões através de ciberataques a bancos e empresas, criar e implementar aplicações maliciosas de criptomoeda e desenvolver uma plataforma de blockchain fraudulenta.
Nos últimos dois anos, a Coreia do Norte tem aparecido de forma prolífica nas análises de risco cibernético. A recente previsão de cibersegurança da Google Cloud destacou a crescente ameaça que a IA representa na cibercriminalidade, com especial ênfase nas capacidades cibernéticas da Coreia do Norte.
O relatório salientou a maior sofisticação dos e-mails e mensagens SMS de phishing devido aos modelos de linguagem de grande dimensão (LLM), indicando que actores como a Coreia do Norte poderiam utilizar a IA generativa para conduzir ciberataques mais eficazes.
Num relatório paralelo, o Centro de Análise de Ameaças da Microsoft (MTAC) também revelou as ameaças tecnológicas e de IA da Ásia Oriental, incluindo a China e a Coreia do Norte.
Microsoft o relatório afirmaPara além do que observámos na China, a Coreia do Norte é uma ameaça cibernética capaz, centrada na recolha de informações e no roubo de criptomoedas necessárias para gerar receitas para o Estado".
A Coreia do Norte pode aceder livremente a modelos de fonte aberta como o LLaMA 2, que está quase ao mesmo nível do LLM líder mundial, o GPT-4.
Apesar das sanções internacionais, parece evidente que a Coreia do Norte está a fazer progressos no domínio da IA, uma tecnologia com duplo potencial de utilização, tanto social como militar - tal como no Ocidente.
