Na conferência internacional "Humanidade na encruzilhada: Sistemas de armas autónomos e o desafio da regulamentação", em Viena, foram lançados apelos para regulamentar a utilização da IA em sistemas de armas autónomos (AWS) enquanto a tecnologia ainda está na sua infância.
Ao longo dos séculos, os avanços tecnológicos conduziram a mudanças dramáticas na forma como as guerras são travadas. Desenvolvimentos como o aço, a pólvora e, por fim, a bomba atómica encontraram as suas aplicações iniciais na guerra antes de passarem para aplicações civis.
A IA contrariou a tendência a este respeito. As aplicações iniciais foram, em grande parte, aplicações comerciais, mas as forças de defesa viram rapidamente o potencial da IA para transformar o campo de batalha mais uma vez.
Referindo-se à primeira bomba atómica, o Ministro dos Negócios Estrangeiros austríaco, Alexander Schallenberg, disse aos participantes de 143 países que o mundo está perante um "momento Oppenheimer" para decidir se e como a IA deve ser utilizada em armas autónomas.
A humanidade está numa encruzilhada: Em breve, os sistemas de armas autónomos encherão os campos de batalha do mundo. Temos de agir e chegar a acordo sobre regras internacionais para garantir que as decisões sobre a vida ou a morte nunca sejam tomadas por máquinas!
➡️ Início #AWS2024Viena com mais de 900 convidados de 142 estados pic.twitter.com/AtwumLu4OP
- Alexander Schallenberg (@a_schallenberg) 29 de abril de 2024
O ímpeto subjacente à necessidade urgente de regulamentação não foi apenas a antecipação de potenciais ameaças futuras, mas também a resposta à utilização da IA em conflitos actuais.
Drones autónomos estão a ser utilizados por ambas as partes na guerra na Ucrânia. Forças israelitas estão a utilizar a IA em múltiplas aplicações de defesa, incluindo a alegada utilização de IA para identificar alvos humanos na guerra em Gaza.
Os sistemas de armas autónomos irão em breve encher os campos de batalha do mundo", afirmou Schallenberg, alertando para o facto de ser "altura de chegar a acordo sobre regras e normas internacionais para garantir o controlo humano".
O eurodeputado defende a necessidade de restringir a autonomia das armas de IA, afirmando: "Pelo menos, asseguremos que a decisão mais profunda e de maior alcance - quem vive e quem morre - permaneça nas mãos dos humanos e não das máquinas".
Os sistemas de armas autónomas (AWS) levantam questões profundas do ponto de vista jurídico, ético, humanitário e de segurança", afirma um comunicado do Governo austríaco. A humanidade está numa encruzilhada e deve unir-se para enfrentar o desafio fundamental de regular estas armas".
Dólares da defesa vs. humanidade
Os conflitos em curso fizeram aumentar os orçamentos da defesa a nível mundial, com os preços das acções de vários Empresas de tecnologia de defesa alimentadas por IA a reagir. As tecnologias AWS podem ser demasiado lucrativas para serem proibidas.
Jaan Tallinn, um dos primeiros investidores da Google DeepMind As tecnologias afirmaram que "os incentivos de Silicon Valley podem não estar alinhados com o resto da humanidade".
No seu discurso de abertura na conferência, Tallinn disse: "Peço-vos que desconfiem daqueles que prometem precisão e previsibilidade nos sistemas que utilizam a IA. Já vimos a IA a cometer erros de seleção de formas grandes e pequenas - desde o reconhecimento errado da cabeça careca de um árbitro como uma bola de futebol, até às mortes de peões causadas por carros autónomos, incapazes de reconhecer a travessia imprudente".
"Devemos ser extremamente cautelosos quando confiamos na precisão destes sistemas, seja no sector militar ou civil. Erros acidentais causados por armas autónomas têm o potencial de desencadear o tipo de guerras que nunca deveriam ser travadas."
Tallinn salientou que conceber armas de IA mais fiáveis não é a solução. Mesmo quando as armas autónomas se tornarem capazes de distinguir perfeitamente os seres humanos, facilitarão significativamente a realização de genocídios e assassinatos selectivos que procuram características humanas específicas", explicou.
"Sair de uma corrida ao armamento exige coragem e visão. Já o fizemos antes e podemos voltar a fazê-lo."
Da abertura dos trabalhos da histórica Conferência de Viena sobre Armas Autónomas #AWS2024 ontem, aqui está o discurso completo do cofundador da FLI, Jaan Tallinn ⬇️ pic.twitter.com/wFYxWpDl1S
- Instituto Futuro da Vida (@FLI_org) 30 de abril de 2024
Numa declaração final a enviar ao Secretário-Geral das Nações Unidas, o grupo afirmou o seu "forte empenho em trabalhar com urgência e com todas as partes interessadas na criação de um instrumento jurídico internacional para regular os sistemas de armas autónomas".
Temos a responsabilidade de agir e de criar as regras necessárias para proteger a humanidade... O controlo humano deve prevalecer no uso da força", acrescenta a declaração.
Mais de 115 Estados membros da ONU concordam com a necessidade de regulamentos vinculativos que regulem as AWS, mas para evitar o veto da Rússia, da China ou da US parece improvável.
Anthony Aguirre, cosmólogo e cofundador do Future Life Institute, resumiu a situação dizendo: "O futuro dos bots de abate está aqui".
