Las empresas de IA de California respiraron aliviadas cuando el gobernador Gavin Newsom vetó el proyecto de ley SB 1047 sobre seguridad de la IA que el Senado del Estado había aprobado a principios de mes.
El controvertido proyecto de ley obligaría a realizar controles de seguridad adicionales a los modelos de IA que superen un umbral de coste o de computación de entrenamiento. Estos modelos requerirían un "interruptor de desactivación" e incurrirían en fuertes multas para los fabricantes de los modelos si se utilizaran para causar "daños críticos".
En su carta al Senado del Estado de California, Newsom explicaba las razones de su decisión para vetar el proyecto de ley.
Señaló que una de las razones por las que California alberga 32 de las 50 principales empresas de IA del mundo es el "cultivo de la libertad intelectual" del estado. No mencionó el riesgo de que algunas de estas empresas abandonen California, pero dejó entrever el impacto que el proyecto de ley tendría en ellas.
Newsom dijo que la principal razón para vetar el proyecto de ley era que era excesivamente amplio y el umbral para la regulación no abordaba los riesgos reales.
En su opinión, "al centrarse únicamente en los modelos más caros y a gran escala, el SB 1047 establece un marco regulador que podría dar al público una falsa sensación de seguridad sobre el control de esta tecnología en rápida evolución. Los modelos más pequeños y especializados pueden resultar igual o incluso más peligrosos que los modelos a los que se dirige el SB 1047, a costa de restringir la innovación que impulsa el avance en favor del bien público."
Newsom dijo que la regulación de los riesgos de la IA era necesaria, pero que centrarse en las aplicaciones de riesgo en lugar del enfoque general del SB 1047 era una mejor opción.
"El SB 1047 no tiene en cuenta si un sistema Al se despliega en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos sensibles. En lugar de ello, el proyecto de ley aplica normas estrictas incluso a las funciones más básicas, siempre que las despliegue un sistema de gran tamaño. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología", explicó Newsom.
Aunque Newsom se negó a firmar el SB 1047, señaló otras normativas sobre IA que firmó este mes como prueba de que se está tomando en serio los riesgos asociados a la IA.
Resumió su compromiso con la seguridad y el avance de la IA diciendo: "Dado lo que está en juego -proteger frente a amenazas reales sin frustrar innecesariamente la promesa de esta tecnología de hacer avanzar el bien público- debemos hacerlo bien."
El senador Scott Weiner se mostró comprensiblemente descontento por el hecho de que Newsom se negara a firmar el proyecto de ley de su autoría.
Weiner declaró: "Este veto es un revés para todos los que creen en la supervisión de las grandes empresas que toman decisiones críticas que afectan a la seguridad y el bienestar del público y al futuro del planeta... Este veto nos deja con la preocupante realidad de que las empresas que pretenden crear una tecnología extremadamente poderosa no se enfrentan a ninguna restricción vinculante por parte de los responsables políticos estadounidenses, especialmente dada la continua parálisis del Congreso en torno a la regulación de la industria tecnológica de una manera significativa".
Mientras Weiner lamentaba el fracaso del proyecto de ley, Yann LeCun, de Meta, y el capitalista de riesgo Marc Andreesen agradecían públicamente a Newsom el veto.
Habrá que esperar para ver si la decisión de Newsom es un ejemplo de liderazgo con visión de futuro o un motivo de arrepentimiento.
