Durante a sua visita ao Reino Unido para a Cimeira sobre a Segurança da IA, a vice-presidente dos EUA, Kamala Harris, anunciou que 30 países se juntaram aos EUA para aprovar as suas propostas de linhas de proteção para a utilização militar da IA.
Anúncio da "Declaração Política sobre a Utilização Militar Responsável da Inteligência Artificial e da Autonomia foi publicado no sítio Web do Departamento de Estado dos EUA em 1 de novembro, tendo sido publicados pormenores adicionais sobre o quadro em 9 de novembro.
Na sua declaração sobre o quadro, Harris disse: "Para garantir a ordem e a estabilidade no meio da mudança tecnológica global, acredito firmemente que devemos ser guiados por um conjunto comum de entendimentos entre as nações".
Estes são os países que se comprometeram a apoiar a iniciativa.
A China e a Rússia estão notoriamente ausentes desta lista. A China apoiou a Declaração de BletchleyA Comissão Europeia adoptou uma decisão sobre a IA, comprometendo-se a apoiar, em princípio, o desenvolvimento seguro da IA em geral.
A decisão da Rússia e da China de não subscreverem a declaração sobre a IA militar pode ter mais a ver com os autores do documento do que com as suas opiniões sobre a sua substância.
Outra lacuna na lista é deixada por dois países que recebem atualmente milhares de milhões em apoio militar de alguns dos Estados apoiantes, Israel e Ucrânia.
Enquanto aliados dos EUA, a sua decisão de não subscrever o compromisso deve-se mais provavelmente ao facto de ambos os países utilizarem atualmente a IA nos conflitos em que estão envolvidos.
Israel utiliza a IA em várias aplicações militares, incluindo a sua Cúpula de ferro sistema. A Ucrânia tem suscitado polémica com o seu drones autónomos com IA que visam soldados e equipamento militar no seu conflito com a Rússia.
Com o que é que se estão a comprometer?
Se quiser ler os pormenores completos do que os signatários acordam pode fazê-lo aqui.
Eis a versão resumida, que pode sacrificar alguma substância pela brevidade:
- Certifique-se de que o seu exército adopta e utiliza estes princípios de IA.
- A utilização da IA militar deve respeitar o direito internacional e proteger os civis.
- As altas patentes devem gerir o desenvolvimento e a implantação da IA militar.
- Minimizar proactivamente os preconceitos não intencionais nas capacidades militares de IA.
- Tem cuidado quando fabricas ou utilizas armas de IA.
- Certifique-se de que a sua tecnologia de defesa da IA é transparente e auditável.
- Formar as pessoas que utilizam ou aprovam a utilização de capacidades militares de IA para que não confiem cegamente na IA quando esta se engana.
- Defina claramente o que tenciona fazer com a sua tecnologia de IA militar e conceba-a de modo a que apenas o faça.
- Continuar a testar a auto-aprendizagem e a atualizar continuamente as capacidades da IA militar para ver se continuam a ser seguras.
- Ter um botão de desligar para o caso de a arma da IA se comportar mal.
Estes são ideais louváveis, mas é duvidoso que estejam tecnológica ou mesmo logisticamente ao alcance das organizações de defesa.
Serão executáveis? A assinatura do compromisso é uma confirmação do apoio em princípio, mas não implica qualquer obrigação legal.
Assinar um documento que diz: "Teremos cuidado ao utilizar a IA nas nossas forças armadas", também implica que o país tenciona utilizar a IA como arma, embora de forma "responsável e ética".
Pelo menos, estes países reconhecem o potencial da IA para amplificar os danos que as armas convencionais já causam. Será que este quadro tornou o mundo um pouco mais seguro, ou apenas fez brilhar os holofotes sobre o que inevitavelmente está para vir?