Palantir Technologies VD Alex Karp säger att den amerikanska regeringen bör arbeta med att producera AI-vapen trots berättigade farhågor.
I en New York Times debattartikelKarp gjorde jämförelser med Manhattanprojektet och menade att djärva åtgärder liknande dem som Oppenheimer och hans team vidtog var avgörande för nationella intressen. Palantir producerar mjukvaruverktyg för målval, uppdragsplanering och satellitspaning som för närvarande används av den amerikanska försvarsmakten.
Företaget har redan integrerat AI i sin Plattform för artificiell intelligens (AIP) som har både kommersiella och försvarsmässiga tillämpningar.
Den utmaning som företag som Palantir står inför är att de för att utveckla AI-vapen behöver begåvade ingenjörer, och de är svåra att hitta.
Karp beklagade sig över att många ingenjörer i Silicon Valley var ovilliga att arbeta med försvarsprojekt och menade att deras moraliska resonemang var missriktat och till och med opatriotiskt. Hans frustration förvärrades av att längder tillsynsmyndigheter kommer att i ett försök att bromsa utvecklingen av AI.
Samtidigt som Karp erkände de mycket verkliga kända och okända farorna menade han att USA borde ligga i framkant när det gäller utvecklingen av AI-vapen eftersom landets fiender inte delar USA:s återhållsamhet.
"Våra motståndare kommer inte att stanna upp för att ägna sig åt teatraliska debatter om fördelarna med att utveckla teknik med kritiska militära och nationella säkerhetstillämpningar. De kommer att fortsätta", sade han.
Vapen är designade för att vara farliga, men vi förstår inte ens riktigt hur farliga AI-vapen skulle kunna vara. Men Karp insisterar på att det är viktigt att skapa farliga AI-vapen för att hålla västvärlden säker.
Han citerade Thomas Schelling, professor i ekonomi och spelteori vid Harvard och Yale, som sade: "För att vara tvingande måste våld förutses ... Makten att skada är förhandlingsmakt. Att utnyttja den är diplomati - elak diplomati, men diplomati."
Karp menar att det AI-hot som vi borde vara mer oroade över är hur vi ska kunna hålla AI i schack om det tillåts integreras med elnätet, flygtrafikledningen eller Försvar och underrättelsenätverk.
Denna berättigade oro verkar dock inte riktigt stödja hans argument. När han konstaterade det uppenbara när det gäller AI som vapen sa han "Programvarans förmåga att underlätta elimineringen av en fiende är en förutsättning för dess värde för de försvars- och underrättelsetjänster som vi arbetar med."
Vi är oroliga för att släppa lös AI på elnät eller flygtrafikledning eftersom vi oroar oss för vad som kan hända om operatörerna tappar kontrollen över det.
Att skapa kraftfulla AI-vapen för att bekämpa dina fiender erbjuder bara skydd om du får bestämma vem fienden är. När vapnet har potential att göra den bestämningen själv är vi alla i trubbel.
