AI-virksomheder i Californien drog et kollektivt lettelsens suk, da guvernør Gavin Newsom nedlagde veto mod lovforslaget SB 1047 om AI-sikkerhed, som delstatens senat vedtog tidligere på måneden.
Det kontroversielle lovforslag vil kræve yderligere sikkerhedstjek af AI-modeller, der overskrider en tærskel for træningsberegninger eller omkostninger, hvis det bliver vedtaget. Disse modeller ville kræve en "kill switch" og medføre store bøder til producenterne af modellerne, hvis de blev brugt til at forårsage "kritisk skade".
I sit brev til det californiske senat forklarede Newsom grundene til hans beslutning at nedlægge veto mod lovforslaget.
Han bemærkede, at en af grundene til, at Californien er hjemsted for 32 af verdens 50 førende AI-virksomheder, er statens "frisindede dyrkelse af intellektuel frihed". Han nævnte ikke risikoen for, at nogle af disse virksomheder ville forlade Californien, men han antydede, hvilken indvirkning lovforslaget ville have på dem.
Newsom sagde, at hovedårsagen til at nedlægge veto mod lovforslaget var, at det var alt for bredt, og at tærsklen for regulering ikke tog højde for faktiske risici.
Han sagde: "Ved kun at fokusere på de dyreste og mest omfattende modeller etablerer SB 1047 en lovgivningsmæssig ramme, der kan give offentligheden en falsk følelse af sikkerhed med hensyn til at kontrollere denne hurtigt udviklende teknologi. Mindre, specialiserede modeller kan vise sig at være lige så farlige eller endda farligere end de modeller, som SB 1047 er rettet mod - på bekostning af den potentielle begrænsning af selve den innovation, der fremmer udviklingen til gavn for offentligheden."
Newsom sagde, at regulering af AI-risici var nødvendig, men at et fokus på risikable applikationer i stedet for den generelle tilgang i SB 1047 var en bedre løsning.
"SB 1047 tager ikke hensyn til, om et Al-system er implementeret i højrisikomiljøer, involverer kritisk beslutningstagning eller brug af følsomme data. I stedet indfører lovforslaget strenge standarder for selv de mest basale funktioner - så længe et stort system anvender dem. Jeg mener ikke, at det er den bedste tilgang til at beskytte offentligheden mod reelle trusler fra teknologien," forklarede Newsom.
Newsom afviste at underskrive SB 1047, men han pegede på andre AI-regler, som han underskrev i denne måned, som bevis på, at han tager de risici, der er forbundet med AI, alvorligt.
Han opsummerede sit engagement i sikkerhed og AI-fremskridt ved at sige: "I betragtning af, hvad der står på spil - at beskytte mod faktiske trusler uden unødigt at modarbejde denne teknologis løfte om at fremme det almene vel - må vi gøre det rigtigt."
Senator Scott Weiner var forståeligt nok utilfreds med, at Newsom afviste at underskrive det lovforslag, han havde skrevet.
Weiner sagde: "Dette veto er et tilbageslag for alle, der tror på tilsyn med store virksomheder, der træffer kritiske beslutninger, som påvirker offentlighedens sikkerhed og velfærd og planetens fremtid ... Dette veto efterlader os med den foruroligende realitet, at virksomheder, der sigter mod at skabe en ekstremt kraftfuld teknologi, ikke står over for nogen bindende restriktioner fra amerikanske politikere, især i betragtning af Kongressens fortsatte lammelse omkring regulering af tech-industrien på nogen meningsfuld måde."
Mens Weiner beklagede, at lovforslaget ikke blev vedtaget, takkede Yann LeCun fra Meta og venturekapitalisten Marc Andreesen offentligt Newsom for vetoet.
Vi må vente og se, om Newsoms beslutning er et eksempel på fremsynet lederskab eller en grund til at fortryde.
