AI-företag i Kalifornien drog en kollektiv suck av lättnad när guvernör Gavin Newsom lade in sitt veto mot SB 1047 AI-säkerhetslag som delstatens senat antog tidigare denna månad.
Det kontroversiella lagförslaget skulle innebära ytterligare säkerhetskontroller för AI-modeller som överskrider en tröskel för beräknings- eller kostnadsutbildning om det antas. Dessa modeller skulle kräva en "kill switch" och medföra höga böter för tillverkarna av modellerna om de används för att orsaka "kritisk skada".
I sitt brev till senaten i delstaten Kalifornien förklarade Newsom skälen till hans beslut att lägga in sitt veto mot lagförslaget.
Han konstaterade att en av anledningarna till att Kalifornien är hemvist för 32 av världens 50 ledande AI-företag är delstatens "frimodiga odling av intellektuell frihet". Han nämnde inte risken för att några av dessa företag skulle lämna Kalifornien, men han antydde vilken inverkan lagförslaget skulle ha på dem.
Newsom sa att det främsta skälet till att lägga in veto mot lagförslaget var att det var alltför brett och att tröskeln för reglering inte tog hänsyn till faktiska risker.
Han sa: "Genom att endast fokusera på de dyraste och mest storskaliga modellerna etablerar SB 1047 ett regelverk som kan ge allmänheten en falsk känsla av säkerhet när det gäller att kontrollera denna snabbt föränderliga teknik. Mindre, specialiserade modeller kan framstå som lika farliga eller till och med farligare än de modeller som SB 1047 riktar in sig på - med den potentiella kostnaden att begränsa just den innovation som driver utvecklingen framåt till förmån för det allmänna bästa."
Newsom sade att reglering av AI-risker var nödvändig, men att ett fokus på riskfyllda applikationer snarare än den generella strategin i SB 1047 var ett bättre alternativ.
"SB 1047 tar inte hänsyn till om ett Al-system används i högriskmiljöer, innebär kritiskt beslutsfattande eller användning av känsliga data. Istället innebär lagförslaget att stränga standarder tillämpas även på de mest grundläggande funktionerna - så länge som ett stort system använder dem. Jag tror inte att detta är den bästa metoden för att skydda allmänheten från de verkliga hot som tekniken utgör", förklarade Newsom.
Newsom avböjde att underteckna SB 1047, men pekade på andra AI-förordningar som han undertecknat den här månaden som bevis på att han tar riskerna med AI på allvar.
Han sammanfattade sitt engagemang för säkerhet och AI-utveckling med att säga: "Med tanke på vad som står på spel - att skydda mot faktiska hot utan att i onödan motverka den här teknikens löfte om att främja allmänhetens bästa - måste vi göra rätt."
Senator Scott Weiner var förståeligt nog missnöjd med att Newsom vägrade att underteckna det lagförslag han författat.
Weiner sa: "Detta veto är ett bakslag för alla som tror på tillsyn av stora företag som fattar kritiska beslut som påverkar allmänhetens säkerhet och välfärd och planetens framtid ... Detta veto lämnar oss med den oroande verkligheten att företag som syftar till att skapa en extremt kraftfull teknik inte står inför några bindande begränsningar från amerikanska beslutsfattare, särskilt med tanke på kongressens fortsatta förlamning när det gäller att reglera teknikindustrin på något meningsfullt sätt."
Medan Weiner beklagade att lagförslaget misslyckades, tackade Yann LeCun från Meta och riskkapitalisten Marc Andreesen Newsom offentligt för vetot.
Vi får vänta och se om Newsoms beslut är ett exempel på framåtblickande ledarskap eller en anledning till ånger.
