Biden-administrationen har anslutit ytterligare åtta AI-företag till sitt frivilliga säkerhetsramverk.
Google, Anthropic, Microsoft, Amazon, OpenAI, Meta och Inflection anslöt sig till Vita husets frivilliga ramverk för etisk utveckling och användning av AI i slutet av juli.
Den här veckan meddelade Vita huset att Adobe, IBM, Nvidia, Salesforce, Cohere, Scale AI, Palantir och Stability hade anslutit sig till dem.
Bidens ramverk uppmuntrar företag att dela med sig av säkerhetsprotokoll och skyddsåtgärder, avslöja kapaciteten och begränsningarna i sina AI-tekniker och använda AI för att "hjälpa till att ta itu med samhällets största utmaningar".
Detta åtagande höjer ögonbrynen med tanke på att vissa deltagande företag - nämligen Palantir - är kända för sina militära AI-applikationer och inhemska övervakningsteknologier. Företaget är beryktat för sina globala relationer med olika regeringar och militära organisationer.
Palantirs VD Alex Karp nyligen uppmuntrats USA att utnyttja AI för vapen och militär teknik, och flygvapnet har redan genomfört framgångsrika testflygningar med ett AI-kontrollerat jetplan.
Karp, som talade vid ett toppmöte i februari om AI-militärteknik, uppgav att företaget tillhandahåller dataanalys för tillämpningar på slagfältet till den ukrainska militären. Trots detta menade Karp att en "arkitektur som möjliggör insyn i datakällorna" bör vara "lagstadgad".
Under en utfrågning i senatens Armed Services Committee kommenterade Palantirs teknikchef Shyam Sankar att en stoppad AI-utveckling skulle kunna äventyra USA:s tekniska överlägsenhet över Kina. Han betonade behovet av att USA investerar ytterligare i "förmågor som skrämmer våra motståndare".
Kritikerna menar att Vita husets ramverk förbiser viktiga etiska överväganden, till exempel öppenheten i generativa AI-träningsdata, som de flesta företag håller under hårt lås och nyckel.
Vita huset meddelade att en exekutiv order är under utarbetande för att "skydda amerikanernas rättigheter och säkerhet", men inga ytterligare detaljer har offentliggjorts.
Komplexiteten i etisk AI är inte begränsad till Palantir. Andra stora teknikföretag som Google och Microsoft har haft sin beskärda del av kontroverser kring militära kontrakt.
Google en gång ledde Project MavenPalantir, ett initiativ för att använda AI för drönarövervakning, men övergav det efter medarbetarprotester. Palantir plockade enligt uppgift upp projektet efteråt.
Som det ser ut nu är Biden-administrationens insatser främst inriktade på icke-bindande rekommendationer och verkställande order.
Vita husets stabschef Jeff Zeints berättade för Reuters att administrationen "drar i varje spak vi har" för att minska riskerna med AI.
Under tiden håller majoritetsledaren för USA: s senat, Chuck Schumer, en serie "AI Insight Forums", den första som tar äger rum i morgon den 13 september.
Vita husets frivilliga ramverk får allt större räckvidd
Enligt en regeringens faktablad som täcker ramverket, fungerar åtagandena från dem som hittills har anslutit sig som en "viktig bro till regeringens åtgärder".
Företagen har gått med på att låta sina AI-system genomgå rigorösa interna och externa säkerhetstester innan de släpps till allmänheten.
"Denna testning, som delvis kommer att utföras av oberoende experter, skyddar mot några av de mest betydande källorna till AI-risker, såsom biosäkerhet och cybersäkerhet", sade Vita huset.
Framför allt kommer företagen också att åta sig att dela information om hantering av AI-risker inom branschen och med regeringar, civilsamhället och den akademiska världen.
Detta syftar till att skapa en samarbetsmiljö för att förbättra säkerhetsprotokoll för AI och erbjuder en plattform för tekniskt samarbete för att motverka försök att kringgå skyddsåtgärder.
"I arbetet med att ta fram dessa åtaganden har administrationen rådgjort med Australien, Brasilien, Chile, Frankrike, Förenade Arabemiraten, Indien, Israel, Italien, Japan, Kanada, Kenya, Mexiko, Nederländerna, Nya Zeeland, Nigeria, Filippinerna, Singapore, Sydkorea, Storbritannien och Tyskland", meddelade Vita huset.
Det finns andra initiativ som syftar till att stärka USA:s motståndskraft mot AI, till exempel en tävling som kallas "AI Cyber Challenge" i samarbete med DARPA.
Regleringen av AI verkar accelerera mot en kritisk massa, och även EU närmar sig den slutliga versionen av sin AI Act.
