Palantir Technologies' CEO Alex Karp siger, at den amerikanske regering bør arbejde på at producere AI-våben på trods af gyldige bekymringer.
I en Debatindlæg i New York TimesKarp sammenlignede med Manhattan-projektet og sagde, at modige handlinger i stil med dem, Oppenheimer og hans team foretog, var afgørende for nationale interesser. Palantir producerer softwareværktøjer til måludvælgelse, missionsplanlægning og satellitrekognoscering, som i øjeblikket bruges af den amerikanske forsvarsstyrke.
Virksomheden har allerede integreret AI i sin Platform for kunstig intelligens (AIP) som har både kommercielle og forsvarsmæssige anvendelser.
Udfordringen for virksomheder som Palantir er, at de har brug for dygtige ingeniører for at udvikle AI-våben, og de er svære at finde.
Karp beklagede mange Silicon Valley-ingeniørers modvilje mod at arbejde på forsvarsprojekter og sagde, at deres moralske ræsonnement var misforstået og endda upatriotisk. Hans frustration forstærkes af længden af de regulerende myndigheder i et forsøg på at bremse udviklingen af kunstig intelligens.
Karp anerkendte de meget reelle kendte og ukendte farer, men sagde, at USA burde være på forkant med udviklingen af AI-våben, fordi landets fjender ikke delte USA's tilbageholdenhed.
"Vores modstandere vil ikke stoppe op for at deltage i teatralske debatter om fordelene ved at udvikle teknologier med kritiske militære og nationale sikkerhedsapplikationer. De vil fortsætte," sagde han.
Våben er designet til at være farlige, men vi forstår ikke engang rigtig, hvor farlige AI-våben kan være. Men Karp insisterer på, at det er vigtigt at skabe farlige AI-våben for at holde Vesten sikker.
Han citerede Thomas Schelling, professor i økonomi og spilteori ved Harvard og Yale, som sagde: "For at være tvingende skal vold forudses ... Magten til at såre er forhandlingsmagt. At udnytte den er diplomati - ondskabsfuldt diplomati, men diplomati."
Karp siger, at den AI-trussel, vi bør være mere bekymrede for, er, hvordan vi holder AI i skak, hvis den får lov til at integrere med elnettet, flyvekontrollen eller... Forsvar og efterretningsnetværk.
Denne gyldige bekymring synes dog ikke rigtig at understøtte hans argument. Da han sagde det åbenlyse om AI som våben, sagde han: "Softwarens evne til at gøre det lettere at eliminere en fjende er en forudsætning for dens værdi for de forsvars- og efterretningstjenester, som vi arbejder med."
Vi er bekymrede for at slippe AI løs på elnet eller flyvekontrol, fordi vi er bekymrede for, hvad der kan ske, hvis operatørerne mister kontrollen over det.
At skabe stærke AI-våben til at bekæmpe dine fjender giver kun beskyttelse, hvis du får lov til at bestemme, hvem fjenden er. Når våbnet har potentiale til selv at træffe den beslutning, er vi alle i problemer.
