Alex Karp, diretor executivo da Palantir Technologies, afirma que o governo dos EUA deveria estar a trabalhar na produção de armas de IA, apesar das preocupações válidas.
Num Artigo de opinião do New York TimesKarp fez comparações com o Projeto Manhattan e afirmou que uma ação corajosa semelhante à tomada por Oppenheimer e a sua equipa era vital para os interesses nacionais. A Palantir produz ferramentas de software de seleção de alvos, planeamento de missões e reconhecimento por satélite que são atualmente utilizadas pelas forças de defesa dos EUA.
A empresa já integrou a IA nas suas Plataforma de Inteligência Artificial (AIP) que tem aplicações comerciais e de defesa.
O desafio que empresas como a Palantir enfrentam é que, para desenvolver armas de IA, precisam de engenheiros talentosos, que são difíceis de encontrar.
Karp lamentou a relutância de muitos engenheiros de Silicon Valley em trabalhar em projectos de defesa, dizendo que o seu raciocínio moral era errado e até antipatriótico. A agravar a sua frustração está o facto de comprimentos os reguladores vão num esforço para travar o desenvolvimento da IA.
Embora reconheça os perigos reais, conhecidos e desconhecidos, Karp afirma que os EUA devem estar na vanguarda do desenvolvimento de armas de IA porque os seus inimigos não partilham as suas reticências.
"Os nossos adversários não vão parar para se entregarem a debates teatrais sobre os méritos do desenvolvimento de tecnologias com aplicações militares e de segurança nacional críticas. Eles vão prosseguir", disse ele.
As armas são concebidas para serem perigosas, mas nem sequer compreendemos bem quão perigosas podem ser as armas de IA. Mas Karp insiste que a criação de armas de IA perigosas é essencial para manter o Ocidente seguro.
Citou Thomas Schelling, um professor de economia e teoria dos jogos de Harvard e Yale, que disse: "Para ser coerciva, a violência tem de ser antecipada... O poder de magoar é poder de negociação. Explorá-lo é diplomacia - diplomacia viciosa, mas diplomacia".
Karp afirma que a ameaça da IA com que nos devemos preocupar mais é como manter a IA sob controlo se lhe for permitido integrar-se na rede eléctrica, no controlo do tráfego aéreo ou defesa e redes de informação.
Esta preocupação válida não parece, no entanto, apoiar o seu argumento. Ao afirmar o óbvio em relação à IA como arma, disse: "A capacidade do software para facilitar a eliminação de um inimigo é uma condição prévia para o seu valor para as agências de defesa e de informação com as quais trabalhamos".
Temos receio de deixar a IA à solta nas redes eléctricas ou no controlo do tráfego aéreo porque nos preocupamos com o que pode acontecer se os operadores perderem o controlo.
Criar armas de IA poderosas para combater os nossos inimigos só oferece proteção se formos nós a decidir quem é o inimigo. Quando a arma tem o potencial de fazer essa determinação por si própria, então estamos todos em apuros.
