OpenAI permite que cuatro laboratorios externos inspeccionen sus modelos in situ.
Cuatro grupos de investigación independientes trabajarán dentro de OpenAI para comprobar si sus modelos se mantienen bajo control durante el entrenamiento y el uso privado. Dos de los grupos ya han establecido límites sobre lo que pueden ver y publicar.

Cuatro grupos de investigación independientes se integrarán ahora en OpenAI para comprobar si sus modelos se mantienen bajo control mientras se entrenan y se utilizan en privado. Los grupos son Apollo Research, METR, Transluce y Goodfire.
La empresa publicó los acuerdos el 16 de noviembre. La empresa denomina a este trabajo evaluaciones integradas. Esto significa que especialistas externos tienen acceso, durante un período acordado, a algunos de los mismos modelos, datos y herramientas internas que utilizan los propios investigadores de la compañía. El objetivo es comprobar la coherencia, es decir, si un modelo cumple con las expectativas de sus creadores y si las medidas de seguridad de la empresa lo detectarían en caso contrario.
Lo que harán los cuatro grupos
El programa piloto presencial, con una duración de cuatro meses, contará con un equipo de seis personas. That team, from Apollo Research, will test whether the AI systems try to get around their own safety controls, or those of later systems. Subversion, here, means secretly working against the instructions of the people who built the system.
The group will examine four claims, in two stages: that model training did not encourage this behaviour; that tough tests do not bring it out; that it has not appeared during internal use; and that the reasoning behind it would be spotted. The first public report will cover incentives in model training. The second will cover tests, internal use, and whether that reasoning would be detectable.
Está previsto que a principios de diciembre comience una revisión de seis semanas de las pruebas posteriores al entrenamiento. Transluce, a nonprofit research lab, will look at how well those tests pick up behaviours such as deception, manipulation and reward hacking. Reward hacking is when a model learns to score well on a test without doing the job the test was meant to measure. The group says it will have access to a handful of models, including at least one that has not been released, and to the written reasoning steps produced by the models.
METR evaluará el comportamiento desalineado en lo que la empresa denomina su mayor prueba de aprendizaje por refuerzo hasta la fecha. El aprendizaje por refuerzo es un método de entrenamiento que recompensa a un modelo por las respuestas que obtienen una buena puntuación. Una segunda revisión de los sistemas de monitorización de la empresa aún está pendiente de que ambas partes acuerden el alcance. La empresa señaló que la primera de estas revisiones es más específica que el estudio más amplio sobre desalineación que ha propuesto el mismo grupo.
A fourth group will watch model training sessions from the inside and publish findings as the work goes on. Goodfire will send interpretability researchers to work at OpenAI and will use its own tools to inspect a model’s inner workings, rather than judging it only by what it says. The company says the main audience for this work is its own researchers.
¿Quieres que la IA te ahorre horas a la semana? Nuestra guía gratuita te muestra cómo.Obtén la guía gratuita →Lo que podrán y no podrán ver
The access is wide on paper. Assessors can be given saved copies of models from during training, source code, training and evaluation data, monitoring systems, technical documents and conversations with staff, plus the tools and computing power to run their own tests. People who need sensitive information will work in the company’s offices, on company devices.
Los límites son tan importantes como el acceso. Apollo Research afirma que el programa piloto aún no cumple con sus propios criterios de acceso y divulgación completos. Sin embargo, sí cumple con el estándar del grupo respecto al derecho a explicar públicamente qué se le permitió ver y publicar y qué no. “Este programa piloto es un primer paso ambicioso hacia mayores derechos de acceso y divulgación, aunque todavía no cumpla con los criterios mencionados”, escribió el grupo.
The company may withhold some information that falls within the agreed scope if it decides that is reasonably necessary for technical reasons, security, or to protect intellectual property. It has agreed not to withhold material simply because a finding is unfavourable, and to give written reasons when it refuses access. It also chooses which staff the assessors may interview. Formal talks with staff cannot be quoted unless the company attests to a statement that can be published. The on-site team from Apollo Research will not have default access to the company’s general staff message channels.
Both Apollo Research and Transluce will write public reports, and the company can ask for confidential material to be removed before publication. It may not remove Apollo Research’s verdict on each claim, or demand deletions just because a finding is unfavourable. It can still remove evidence that it treats as sensitive intellectual property, even when that evidence supports a conclusion. Readers of the public reports may therefore be unable to check all of the evidence behind a published finding. Transluce says it cannot publish results that relate only to unreleased models, so its public report will cover released models only. It also said the access in this pilot is not comparable to employee-level access.
Los informes sin censura se enviarán al Comité de Seguridad, un comité independiente de la junta directiva de la Fundación OpenAI. Los evaluadores y el comité pueden comunicarse en privado. Si la empresa y un evaluador no están de acuerdo, el asunto se puede plantear ante dicho comité. Apollo Research y Goodfire reciben una remuneración por su trabajo. La empresa afirma que la remuneración no depende de los resultados. METR y Transluce no cobran honorarios, aunque podrían recibir créditos de computación.
¿Por qué está sucediendo esto ahora?
The company said the new assessments also build on its investigation of a July security incident at a major site that hosts AI models. Nuestro informe anterior trata sobre la denuncia estatal que se presentó posteriormente. The company also said the work supports its commitments under an American government agreement on advanced AI, referred to there as super intelligence, in which it agreed to independent assessments of its safety controls.
Transluce has already agreed with the company that it intends to return in early 2027 for a longer, deeper review, lasting about eight weeks. The company says it expects this first phase to lead to longer-term work of the same kind, with outside researchers remaining on site, and that it is exploring future reviews of how it follows its own safety rules, as well as of its culture and processes.
Por qué es importante: Permitir que investigadores externos trabajen en un laboratorio de IA de vanguardia constituye una forma de control más rigurosa que una prueba puntual justo antes del lanzamiento. El valor público de ese trabajo dependerá de lo que los grupos tengan permitido ver y publicar, y dos de ellos ya han establecido esos límites en detalle.


