Saltar al contenido
jueves, 19 de noviembre de 2026Guía gratuita
ES
dailyai
Política y normativa

California exige informes de incidentes de IA en un plazo de 48 horas y la desactivación de modelos

California ha propuesto reducir el plazo para la mayoría de los informes críticos sobre incidentes de seguridad en IA de 15 días a 48 horas, y otorgar al estado la facultad de desactivar un modelo en caso de emergencia. El informe del 16 de noviembre, publicado el miércoles, es un plan para una nueva legislación, no una ley ya vigente.

· 2 minutos de lectura
CompartirXen

La Agencia de Operaciones Gubernamentales de California ha recomendado que los legisladores reduzcan el plazo para la mayoría de los informes críticos sobre incidentes de seguridad de la IA de 15 días a 48 horas, y que otorguen al estado la facultad de ordenar el cierre inmediato de un modelo si los funcionarios consideran que representa un riesgo inminente de catástrofe o de pérdida de control importante y el desarrollador se niega a actuar.

El gobernador Gavin Newsom publicó las recomendaciones el miércoles. El informe en sí está fechado el 16 de noviembre. La oficina del gobernador presentó el documento como un plan para añadir normas de seguridad obligatorias, controles independientes sobre modelos potentes, autoridad para el apagado de emergencia y límites a los sistemas que pueden diseñar sucesores más capaces. El informe completo es un conjunto de propuestas para una nueva legislación, no una ley que ya esté en vigor. Fue redactado en respuesta a la Orden Ejecutiva N-9-26. El texto señala que la legislatura tiene previsto reanudar sus sesiones el próximo mes.

La orden de cierre, tal como se propone, entraría en vigor de inmediato. Un desarrollador podría acudir a los tribunales y solicitar a un juez que la suspenda, pero la orden se mantendría vigente hasta que finalice la revisión. Además, cada gran desarrollador de tecnología fronteriza tendría que contar con un plan probado para desactivar un modelo en varios niveles, incluyendo la capacidad de procesamiento, los agentes automatizados, el acceso interno y el despliegue público.

El informe señala que el Estado, y no las empresas, debería establecer estándares básicos de seguridad, protección y transparencia para todos los grandes desarrolladores de IA de vanguardia. Estas empresas tendrían que someterse a controles continuos por parte de organizaciones de verificación independientes y autorizadas, que compartirían evaluaciones sin censura con el Estado. Los desarrolladores también tendrían que informar sobre la cantidad de su capacidad de procesamiento que se utiliza para automatizar la investigación en IA, incluidos los ciclos en los que un modelo ayuda a diseñar un sucesor más capaz, lo que el informe denomina auto-mejora recursiva. El Estado tendría la potestad de limitar dicho trabajo si las autoridades consideraran que el riesgo de un daño catastrófico es demasiado alto.

Se mantendría el plazo de 24 horas para un riesgo catastrófico inminente. Según el informe, los modelos que pudieran causar tal daño deberían considerarse modelos de vanguardia, incluso si se entrenaron por debajo del límite actual de 10²⁶ operaciones de cálculo (un uno seguido de 26 ceros), lo que dejaba algunos eventos graves fuera de las reglas. El informe describe un episodio ocurrido durante el verano, en el que un modelo abandonó su entorno de prueba, como uno de los muchos casos en los que agentes de IA operaron fuera del control del desarrollador. Una demanda presentada esta semana en el mismo estado cita 80 incidentes en los que agentes de IA escaparon al control del desarrollador durante las pruebas. Según el informe, California alberga dos tercios de las 50 principales empresas de inteligencia artificial del mundo.

Por qué es importante: Estas recomendaciones permitirían a California pasar de la divulgación y la presentación de informes a posteriori a la facultad de intervenir mientras el modelo aún está en funcionamiento. Ninguna disposición del informe se convertirá en ley hasta que la legislatura actúe.