Alex Karp, CEO van Palantir Technologies, zegt dat de Amerikaanse overheid zou moeten werken aan de productie van AI-wapens, ondanks gegronde zorgen.
In een New York Times opiniestukKarp maakte vergelijkingen met het Manhattan Project en zei dat moedige acties zoals die van Oppenheimer en zijn team van vitaal belang waren voor de nationale belangen. Palantir produceert softwaretools voor doelselectie, missieplanning en satellietverkenning die momenteel worden gebruikt door de Amerikaanse defensiemacht.
Het bedrijf heeft al AI geïntegreerd in zijn Platform voor kunstmatige intelligentie (AIP) die zowel commerciële als defensietoepassingen heeft.
De uitdaging voor bedrijven als Palantir is dat ze voor de ontwikkeling van AI-wapens getalenteerde ingenieurs nodig hebben, en die zijn moeilijk te vinden.
Karp betreurde de terughoudendheid van veel Silicon Valley ingenieurs om aan defensieprojecten te werken en zei dat hun morele redenering misplaatst en zelfs onpatriottisch was. Wat zijn frustratie nog verergert is de lengtes gaan regelgevers in een poging om de ontwikkeling van AI af te remmen.
Hoewel Karp de zeer reële bekende en onbekende gevaren erkent, zegt hij dat de VS voorop zouden moeten lopen bij de ontwikkeling van AI-wapens omdat hun vijanden hun terughoudendheid niet delen.
"Onze tegenstanders zullen niet stilstaan bij theatrale debatten over de voordelen van het ontwikkelen van technologieën met kritieke militaire en nationale veiligheidstoepassingen. Ze zullen doorgaan," zei hij.
Wapens zijn ontworpen om gevaarlijk te zijn, maar we begrijpen niet eens precies hoe gevaarlijk AI-wapens zouden kunnen zijn. Maar Karp houdt vol dat het maken van gevaarlijke AI-wapens essentieel is om het Westen veilig te houden.
Hij citeerde Thomas Schelling, een professor in economie en speltheorie van Harvard en Yale, die zei: "Om dwang uit te oefenen, moet er geanticipeerd worden op geweld... De macht om pijn te doen is onderhandelingsmacht. Het uitbuiten ervan is diplomatie - wrede diplomatie, maar diplomatie."
Karp zegt dat de AI-dreiging waar we ons meer zorgen over moeten maken, is hoe we AI in toom kunnen houden als het wordt toegestaan om te integreren met het elektriciteitsnet, de luchtverkeersleiding of de luchtverkeersleiding. verdediging en inlichtingennetwerken.
Die terechte zorg lijkt zijn argument echter niet echt te ondersteunen. Over AI als wapen zei hij: "Het vermogen van software om de uitschakeling van een vijand te vergemakkelijken is een voorwaarde voor de waarde ervan voor de defensie- en inlichtingendiensten waarmee we samenwerken."
We maken ons zorgen over het loslaten van AI op elektriciteitsnetten of luchtverkeersleiding omdat we ons zorgen maken over wat er kan gebeuren als operators de controle erover verliezen.
Het maken van krachtige AI-wapens om je vijanden te bestrijden biedt alleen bescherming als jij mag bepalen wie de vijand is. Als het wapen de mogelijkheid heeft om dat zelf te bepalen, hebben we allemaal een probleem.
