AI-bedrijven in Californië haalden opgelucht adem toen gouverneur Gavin Newsom zijn veto uitsprak over de SB 1047 AI-veiligheidswet die de Senaat eerder deze maand had aangenomen.
Het controversiële wetsvoorstel zou extra veiligheidscontroles verplicht stellen voor AI-modellen die een drempelwaarde voor trainingscomputers of -kosten overschrijden als het wetsvoorstel wordt ondertekend. Deze modellen zouden een "noodschakelaar" nodig hebben en de makers van de modellen zouden zware boetes moeten betalen als ze worden gebruikt om "kritieke schade" te veroorzaken.
In zijn brief aan de senaat van de staat Californië legde Newsom uit de redenen voor zijn beslissing om een veto uit te spreken over het wetsvoorstel.
Hij merkte op dat een van de redenen dat er 32 van de 50 grootste AI-bedrijven ter wereld in Californië zijn gevestigd de "vrijzinnige cultivering van intellectuele vrijheid" is. Hij noemde niet het risico dat sommige van deze bedrijven Californië zouden verlaten, maar hij zinspeelde wel op de impact die het wetsvoorstel op hen zou hebben.
Newsom zei dat de belangrijkste reden om zijn veto uit te spreken was dat het wetsvoorstel te breed was en dat de drempel voor regulering niet de werkelijke risico's betrof.
Hij zei: "Door zich alleen te richten op de duurste en meest grootschalige modellen, creëert SB 1047 een regelgevend kader dat het publiek een vals gevoel van veiligheid kan geven over het controleren van deze snel veranderende technologie. Kleinere, gespecialiseerde modellen kunnen net zo gevaarlijk of zelfs gevaarlijker worden dan de modellen waar SB 1047 zich op richt - ten koste van het inperken van juist die innovatie die vooruitgang stimuleert ten gunste van het algemeen belang."
Newsom zei dat regulering van AI-risico's noodzakelijk was, maar dat een focus op risicovolle toepassingen in plaats van de algemene aanpak van SB 1047 een betere optie was.
"SB 1047 houdt er geen rekening mee of een Al-systeem wordt ingezet in omgevingen met een hoog risico, of het gaat om kritieke besluitvorming of het gebruik van gevoelige gegevens. In plaats daarvan past het wetsvoorstel strenge normen toe op zelfs de meest elementaire functies - zolang er maar een groot systeem wordt ingezet. Ik geloof niet dat dit de beste aanpak is om het publiek te beschermen tegen echte bedreigingen die uitgaan van de technologie," legde Newsom uit.
Hoewel Newsom weigerde SB 1047 te ondertekenen, wees hij op andere AI-verordeningen die hij deze maand ondertekende als bewijs dat hij de risico's van AI serieus neemt.
Hij vatte zijn toewijding aan veiligheid en vooruitgang op het gebied van AI samen door te zeggen: "Gezien de inzet - bescherming tegen daadwerkelijke bedreigingen zonder de belofte van deze technologie om het algemeen welzijn te bevorderen onnodig tegen te werken - moeten we dit goed doen."
Senator Scott Weiner was begrijpelijkerwijs ongelukkig dat Newsom weigerde het wetsvoorstel te ondertekenen dat hij had opgesteld.
Weiner zei: "Dit veto is een tegenslag voor iedereen die gelooft in toezicht op grote bedrijven die cruciale beslissingen nemen die van invloed zijn op de veiligheid en het welzijn van het publiek en de toekomst van de planeet...Dit veto laat ons achter met de verontrustende realiteit dat bedrijven die een extreem krachtige technologie willen creëren geen bindende beperkingen ondervinden van Amerikaanse beleidsmakers, vooral gezien de voortdurende verlamming van het Congres rond het reguleren van de tech-industrie op een zinvolle manier."
Terwijl Weiner klaagde over het mislukken van het wetsvoorstel, bedankten Meta's Yann LeCun en durfkapitalist Marc Andreesen Newsom publiekelijk voor het veto.
We zullen moeten afwachten of de beslissing van Newsom een voorbeeld is van vooruitstrevend leiderschap of een reden tot spijt.
