As empresas de IA na Califórnia deram um suspiro coletivo de alívio quando o governador Gavin Newsom vetou o projeto de lei de segurança de IA SB 1047 que o Senado estadual aprovou no início deste mês.
O controverso projeto de lei, se for aprovado, obrigará a verificações de segurança adicionais para os modelos de IA que ultrapassem um limiar de cálculo de formação ou de custos. Estes modelos exigiriam um "kill switch" e incorreriam em pesadas multas para os fabricantes dos modelos se estes fossem utilizados para causar "danos críticos".
Na sua carta ao Senado do Estado da Califórnia, Newsom explicou os motivos da sua decisão para vetar o projeto de lei.
O deputado referiu que uma das razões pelas quais a Califórnia alberga 32 das 50 principais empresas de IA do mundo é o "cultivo de espírito livre da liberdade intelectual" do estado. Não mencionou o risco de algumas destas empresas abandonarem a Califórnia, mas deu a entender o impacto que o projeto de lei teria sobre elas.
Newsom afirmou que a principal razão para vetar o projeto de lei foi o facto de ser demasiado amplo e de o limiar para a regulamentação não ter em conta os riscos reais.
Segundo ele, "ao centrar-se apenas nos modelos mais caros e de grande escala, a SB 1047 estabelece um quadro regulamentar que pode dar ao público uma falsa sensação de segurança quanto ao controlo desta tecnologia em rápida evolução. Os modelos mais pequenos e especializados podem surgir como sendo igualmente ou mesmo mais perigosos do que os modelos visados pelo SB 1047 - à custa potencial de restringir a própria inovação que alimenta o avanço em favor do bem público."
Newsom disse que a regulamentação dos riscos da IA é necessária, mas que uma concentração nas aplicações de risco em vez da abordagem geral do SB 1047 é uma opção melhor.
"O projeto de lei SB 1047 não tem em conta o facto de um sistema Al estar implantado em ambientes de alto risco, envolver a tomada de decisões críticas ou a utilização de dados sensíveis. Em vez disso, o projeto de lei aplica normas rigorosas mesmo às funções mais básicas - desde que seja implementado por um grande sistema. Não creio que esta seja a melhor abordagem para proteger o público das ameaças reais colocadas pela tecnologia", explicou Newsom.
Embora Newsom se tenha recusado a assinar o SB 1047, apontou outros regulamentos sobre IA que assinou este mês como prova de que está a levar a sério os riscos associados à IA.
Resumiu o seu compromisso com a segurança e o avanço da IA dizendo: "Tendo em conta o que está em jogo - proteger contra ameaças reais sem frustrar desnecessariamente a promessa desta tecnologia de promover o bem público - temos de fazer isto bem".
O senador Scott Weiner ficou compreensivelmente descontente com o facto de Newsom se ter recusado a assinar o projeto de lei da sua autoria.
Weiner disse: "Este veto é um revés para todos os que acreditam na supervisão de grandes corporações que estão a tomar decisões críticas que afectam a segurança e o bem-estar do público e o futuro do planeta... Este veto deixa-nos com a realidade preocupante de que as empresas que pretendem criar uma tecnologia extremamente poderosa não enfrentam restrições vinculativas dos decisores políticos dos EUA, particularmente dada a paralisia contínua do Congresso em torno da regulamentação da indústria tecnológica de qualquer forma significativa".
Enquanto Weiner lamentou o fracasso do projeto de lei, Yann LeCun da Meta e o capitalista de risco Marc Andreesen agradeceram publicamente a Newsom pelo veto.
Teremos de esperar para ver se a decisão de Newsom é um exemplo de liderança com visão de futuro ou um motivo de arrependimento.
