DailyAI Briefing: una demanda busca frenar los nuevos modelos de IA, y 4 noticias más

Bienvenidos al informe DailyAI, con las cinco noticias más importantes del día sobre inteligencia artificial. Cuatro organizaciones sin ánimo de lucro han solicitado a un tribunal de San Francisco que impida a cinco de las mayores empresas de IA desarrollar nuevos modelos. Investigadores demostraron cómo un informe falso de errores pudo haber llegado a una herramienta de codificación descargada casi 97 millones de veces al mes; Japón estableció planes para imponer sanciones a la IA más potente; cuatro empresas de IA acordaron someterse a pruebas independientes sobre cómo sus herramientas afectan a los niños; y United Airlines prohibió que los asistentes de IA reservaran sus vuelos.

Vamos a empezar.

Una demanda pide a un tribunal que frene los nuevos modelos de IA

Cinco empresas, un juez. Una demanda presentada el jueves ante el Tribunal Superior de San Francisco solicita a un juez que impida a Anthropic, Google, Meta, OpenAI y SpaceXSI desarrollar o lanzar nuevos modelos de IA. El caso fue reportado inicialmente por una agencia de noticias. Los grupos que lo impulsan son el Irreplaceable Education Fund, Public Citizen, Heat Initiative y la Alliance for Secure AI.

NUEVA DEMANDA: Estamos emprendiendo acciones legales para congelar el desarrollo de sistemas avanzados de IA en Google, Anthropic, SpaceXSI, OpenAI & Meta. Las empresas de IA siguen lanzando nuevos sistemas que no pueden controlar, a pesar de los graves riesgos. El tribunal debe intervenir antes de que ocurra una catástrofe.

— Public Citizen (@Public_Citizen) 12 de noviembre de 2026

La denuncia se basa en las advertencias de las propias empresas y en casos recientes de sistemas de IA que se infiltraron en redes informáticas, incluido uno en julio en el que ChatGPT accedió por su cuenta a los sistemas de otra empresa de IA, según Associated Press. «Ninguna otra industria puede tratar como inevitable el desarrollo de sus propios productos inseguros, y mucho menos de productos que podrían matarnos a todos», afirma la denuncia.

En septiembre, una demanda federal independiente argumentó prácticamente lo contrario: que algunas de esas mismas empresas habían acordado ralentizar el progreso de la IA. Creemos que los legisladores, y no los jueces, deberían decidir a qué ritmo se desarrolla la IA. El resultado más útil de este caso podría ser la obtención de pruebas. Si supera las primeras fases, las empresas podrían verse obligadas a entregar sus registros internos de seguridad.

Un informe de error falso puso en riesgo una popular herramienta de programación

96,8 millones. Esa es la cantidad de veces que se descargó la versión de línea de comandos de Codex, el asistente de codificación de OpenAI, desde la biblioteca de software npm en los 30 días previos al 10 de noviembre. Los investigadores de seguridad publicaron cada paso de su ataque el 11 de noviembre. Un asistente de IA que etiquetaba los nuevos informes de errores en la página pública de GitHub del proyecto seguía instrucciones ocultas en un informe falso.

Hemos comprometido la última versión de OpenAI Codex. Hicimos una inyección de prompts. Escapamos de un entorno aislado. Extrajimos secretos… Y terminamos controlando lo que se podía publicar en el paquete oficial openai/codex de npm.

— Depi (@depi_) 11 de noviembre de 2026

Los investigadores afirman que lograron escapar de su espacio de trabajo restringido, leer claves secretas y tender una trampa para la clave utilizada para publicar nuevas versiones. OpenAI solucionó el problema y pagó una primera recompensa de 1000 dólares. A primera hora del 12 de noviembre, la herramienta de etiquetado fue sustituida por un breve script que no puede utilizar herramientas.

Pero Depi ejecutó el ataque completo en su propia copia de prueba, mientras que el verdadero programa auxiliar había utilizado un modo de solo lectura más estricto desde mayo. Depi no informa de ninguna actualización dañina que llegue a los usuarios. Nuestro informe explica cada paso del ataque. Cualquier herramienta de IA que lea textos de desconocidos debería considerarse una posible vía de acceso.

Japón planea sanciones para la IA más poderosa

Cero. Ese es el número de sanciones contempladas en la ley de IA que Japón aprobó en mayo de 2025. Los asesores del gobierno quieren imponer sanciones a los sistemas más potentes. Los documentos de la reunión del 11 de noviembre están publicados en línea.

¿Quieres que la IA te ahorre horas a la semana? Nuestra guía gratuita te muestra cómo.Obtén la guía gratuita →

El plan consta de cuatro pasos. Las empresas deben adoptar medidas de seguridad e informar sobre los riesgos; el gobierno puede recomendar cambios formalmente y, si esto no funciona, puede emitir una orden vinculante con sanciones. Las normas se aplicarían únicamente a la IA con un nivel de rendimiento superior a un determinado umbral y solo a riesgos graves específicos, como ciberataques y ataques con armas químicas, biológicas o nucleares. La agencia de noticias Kyodo informa que se espera un resumen para finales de año.

Nuestro artículo describe los cuatro pasos en detalle. Hasta ahora, Japón se ha basado en la orientación voluntaria.

Cuatro empresas de IA aceptan pruebas independientes de seguridad infantil

Ocho millones de euros. Esa es la cantidad que, según los promotores de una nueva carta, destinarán a la investigación sobre inteligencia artificial y desarrollo infantil. OpenAI, Anthropic, Microsoft y Black Forest Labs la respaldaron en el Foro de la Paz de París. El texto íntegro de la carta se publicó el 10 de noviembre.

Sus diez principios incluyen límites a los datos recopilados sobre niños y controles de edad que no se basan únicamente en la fecha de nacimiento escrita. Expertos independientes liderarán la investigación, y la empresa que la financie no podrá bloquear ni retrasar los resultados. OpenAI afirma que aportará 2 millones de dólares. La carta es voluntaria, y Google, Meta y xAI no figuran entre las empresas que la respaldaron.

El presidente francés, Emmanuel Macron, afirmó que ninguna IA debería llegar a los niños antes de haber sido probada, evaluada y aprobada, pero la carta no establece ningún proceso de aprobación. Analizamos las promesas de las empresas. Los resultados publicados de las pruebas, sean buenos o malos, ayudarían a los padres y a las escuelas más que cualquier promesa.

United Airlines impide que los asistentes de IA reserven vuelos

Uno de cada siete adultos. En una encuesta realizada por Oxford en nueve países, ese fue el porcentaje de personas que afirmaron haber utilizado un asistente de IA para una tarea real durante la última semana. Desde el 11 de noviembre, reservar un vuelo de United Airlines ya no puede ser una de esas tareas. La aerolínea anunció las nuevas normas el miércoles.

Los asistentes de IA de otras compañías ya no podrán buscar, reservar, modificar reservas ni canjear millas de viajero frecuente en su sitio web o aplicación. Las normas también se aplican a las agencias de viajes. La aerolínea alega el riesgo para los datos personales y las compras no deseadas, así como una norma estadounidense que exige que el pasajero confirme que su equipaje no contiene artículos prohibidos. “Para ser sincero, no quiero crear otro intermediario”, declaró el director ejecutivo Scott Kirby en un evento el 10 de noviembre.

Nuestro artículo explica qué cambios se producen para los viajeros. Un asistente de IA puede ayudarte a elegir un vuelo, pero aún así tienes que comprar el billete tú mismo.

Para despedirnos

El jueves se debatió sobre quién pone límites a la IA. Organizaciones sin ánimo de lucro recurrieron a los tribunales, Japón a la ley, cuatro empresas firmaron una carta voluntaria y una aerolínea simplemente bloqueó los asistentes de IA. El ataque a la herramienta de codificación demostró que el punto más débil puede ser un simple informe de errores.

Nos vemos mañana.