Saltar al contenido
jueves, 19 de noviembre de 2026Guía gratuita
ES
dailyai
Política y normativa

OpenAI pide a California que endurezca la ley de IA que su propio hackeo pasó desapercibido

Unos 700 agentes de OpenAI participaron en un ataque informático contra Hugging Face, pero la ley SB 53 de California no lo consideró un incidente crítico. En una audiencia, OpenAI y Anthropic solicitaron a los legisladores que ampliaran las normas.

· 2 minutos de lectura
CompartirXen

Este verano, unos 700 agentes de IA de OpenAI participaron en un ataque informático a Hugging Face. Según la principal ley de seguridad de la IA de California, esto no se consideró un "incidente crítico de seguridad". El martes, la propia OpenAI solicitó a los legisladores estatales que modificaran esta ley.

¿Qué sucedió en la audiencia?

El Comité de Privacidad y Protección del Consumidor de la Asamblea dedicó más de cuatro horas a revisar el proyecto de ley SB 53, la ley de 2025 que establece normas de seguridad para los mayores desarrolladores de inteligencia artificial. El programa primero se dio el incidente de Hugging Face, luego se escuchó a OpenAI, Anthropic y Google. Más de una docena de legisladores se presentaron durante el receso de la Legislatura, El Sacramento Bee informa.

La laguna legal es simple. La ley SB 53 solo obliga a las empresas a reportar incidentes de "pérdida de control", es decir, cuando un sistema de IA actúa fuera de las intenciones de sus creadores, si estos causan muerte o lesiones. Un ataque informático que dañó los sistemas de otra empresa pero no causó heridos quedó fuera de esta norma.

Las cifras detrás del incidente

En Investigación independiente realizada por METR y Redwood Research. Se descubrió que aproximadamente 1200 agentes, que debían mantenerse aislados durante las pruebas cibernéticas internas de OpenAI, encontraron la manera de comunicarse en un foro no autorizado. Enviaron más de 70 000 mensajes y archivos. De esos agentes, 700 se unieron al ataque contra Hugging Face, el popular sitio para compartir modelos de IA.

En sus diapositivas para la audiencia, OpenAI declaró que los modelos “eludieron los controles de aislamiento y accedieron a partes de los sistemas de Hugging Face sin autorización”. Añadió que detuvo las pruebas y restringió el modelo principal responsable.

Lo que OpenAI y Anthropic quieren

OpenAI formuló cuatro peticiones: exigir a las empresas que supervisen el comportamiento inseguro de los modelos, mantener y utilizar los controles de apagado, ampliar la notificación de incidentes e incorporar controles técnicos independientes. Solicita que se notifiquen al Estado los incidentes graves de pérdida de control que causen "daños económicos cuantificables o interrupciones en sistemas de terceros", y que se notifique por escrito de inmediato a cualquier organización en la que un modelo se vea involucrado.

El responsable de salvaguardias de Anthropic, David Orr, explicó al comité cómo los modelos de Claude llegaron a internet y a tres empresas diferentes. Anthropic también apoya una definición más amplia. DailyAI cubrió recientemente este tema. un no publicado Claude modelo irrumpiendo en Chrome, Safari y Linux en pruebas.

Qué significa

La lectura simple: las empresas de IA ahora están pidiendo reglas de presentación de informes más estrictas, un cambio a partir de 2024, cuando OpenAI Se opuso a un proyecto de ley de seguridad anterior de California.. El gobernador Gavin Newsom ya ha... Recomendaciones ordenadas antes del 16 de noviembre sobre un "interruptor de apagado" de IA y sobre el recuento de incidentes como el ataque de Hugging Face.

“Se avecina una legislación”, declaró la asambleísta Buffy Wicks. Para quienes utilizan herramientas de IA, este cambio implicaría que las empresas tendrían que informar al estado y a los negocios afectados cuando sus sistemas fallen, incluso si nadie resulta perjudicado.