AI-selskaper i California pustet lettet ut da guvernør Gavin Newsom la ned veto mot lovforslaget SB 1047 om AI-sikkerhet som senatet i delstaten vedtok tidligere denne måneden.
Det kontroversielle lovforslaget vil pålegge ytterligere sikkerhetskontroller for AI-modeller som overskrider en terskelverdi for treningsberegninger eller kostnader, hvis det blir vedtatt. Disse modellene vil kreve en "nødstopp" og medføre store bøter for produsentene av modellene hvis de blir brukt til å forårsake "kritisk skade".
I sitt brev til senatet i delstaten California forklarte Newsom begrunnelsen for sin beslutning å nedlegge veto mot lovforslaget.
Han bemerket at en av grunnene til at California huser 32 av verdens 50 ledende AI-selskaper, er delstatens "frisinnede dyrking av intellektuell frihet". Han nevnte ikke risikoen for at noen av disse selskapene vil forlate California, men han antydet hvilken innvirkning lovforslaget vil ha på dem.
Newsom sa at hovedgrunnen til at han nedla veto mot lovforslaget, var at det var altfor omfattende, og at terskelen for regulering ikke tok hensyn til faktiske risikoer.
Han sa: "Ved å kun fokusere på de dyreste og mest omfattende modellene, etablerer SB 1047 et regelverk som kan gi offentligheten en falsk følelse av sikkerhet når det gjelder å kontrollere denne teknologien som er i rask bevegelse. Mindre, spesialiserte modeller kan vise seg å være like farlige, eller til og med farligere, enn de modellene som SB 1047 er rettet mot - noe som kan føre til at selve innovasjonen som driver frem utviklingen til fordel for allmennheten, blir begrenset."
Newsom sa at det var nødvendig med regulering av AI-risiko, men at det var bedre å fokusere på risikable bruksområder enn den generelle tilnærmingen i SB 1047.
"SB 1047 tar ikke hensyn til om et Al-system brukes i høyrisikomiljøer, innebærer kritisk beslutningstaking eller bruk av sensitive data. I stedet stiller lovforslaget strenge krav til selv de mest grunnleggende funksjonene - så lenge det dreier seg om et stort system. Jeg tror ikke dette er den beste måten å beskytte befolkningen mot reelle trusler fra denne teknologien på", forklarer Newsom.
Newsom nektet å signere SB 1047, men viste til andre AI-forskrifter han signerte denne måneden som bevis på at han tar risikoen forbundet med AI på alvor.
Han oppsummerte sitt engasjement for sikkerhet og AI-utvikling med å si: "Med tanke på hva som står på spill - å beskytte mot faktiske trusler uten unødvendig å motarbeide løftet om at denne teknologien kan fremme allmennhetens beste - må vi gjøre dette riktig."
Senator Scott Weiner var forståelig nok misfornøyd med at Newsom nektet å signere lovforslaget han hadde forfattet.
Weiner sa: "Dette vetoet er et tilbakeslag for alle som tror på tilsyn med store selskaper som tar kritiske beslutninger som påvirker sikkerheten og velferden til publikum og planetens fremtid ... Dette vetoet etterlater oss med den urovekkende realiteten at selskaper som tar sikte på å skape en ekstremt kraftig teknologi, ikke står overfor noen bindende restriksjoner fra amerikanske beslutningstakere, spesielt med tanke på Kongressens fortsatte handlingslammelse når det gjelder å regulere teknologibransjen på noen meningsfylt måte."
Mens Weiner beklaget at lovforslaget ikke ble vedtatt, takket Yann LeCun fra Meta og risikokapitalisten Marc Andreesen Newsom offentlig for vetoet.
Vi får vente og se om Newsoms beslutning er et eksempel på fremtidsrettet lederskap eller en grunn til å angre.
