OpenAI frena la extracción de razonamiento protegido: del 54 % al 0,2 %
OpenAI publica cómo combate la destilación adversarial y centra sus defensas en el razonamiento protegido, las trazas internas de cadena de pensamiento que el modelo no enseña en la respuesta final.
El razonamiento de un modelo deja de ser un negocio redondo
OpenAI ha publicado los detalles de cómo combate la destilación adversarial, esa técnica mediante la cual un actor reproduce las capacidades de un modelo de frontera usando sus salidas sin autorización y, después, despliega su propia versión sin las salvaguardas que el modelo original sí tenía. La compañía pone el foco en un punto concreto: el razonamiento protegido, es decir, las trazas de cadena de pensamiento que el modelo genera por dentro mientras trabaja. Esas trazas contienen información que la respuesta final omite, y por eso son material de entrenamiento mucho más valioso que el texto que ve el usuario.
El dato que resume la mejora técnica es una tabla de tasas de éxito de ataque. En una evaluación adaptativa de caja negra, agregada sobre seis modelos atacantes, el porcentaje medio de ataques que lograban recuperar el razonamiento protegido de una petición anterior cayó del 54,0 % en GPT-6 Astra con sus salvaguardas originales al 0,2 % en GPT-6.2 Astra con las nuevas. La extracción del razonamiento de la petición en curso bajó del 22,9 % al 0,9 %. En ambos casos el resultado queda por debajo del 1 %.
El mecanismo que sostiene esa mejora no es uno solo, sino una cadena. OpenAI describe cuatro piezas que se refuerzan entre sí. La primera es el entrenamiento adversarial del modelo: el sistema aprende a reconocer los intentos de extracción y a negarse a mostrar su razonamiento, sin cerrar la puerta a las peticiones legítimas de explicación. La segunda son clasificadores de entrada y de salida; los de entrada detectan el intento, los de salida vigilan que no se filtre la traza ni en la respuesta final ni en los argumentos de las llamadas a herramientas. La tercera son las protecciones a nivel de API, que atan el razonamiento protegido al historial de la conversación que lo produjo: si un mensaje anterior se reescribe, la API descarta el razonamiento que vino después, y los modelos de familia más antigua, con salvaguardas más débiles, no pueden leer el razonamiento de GPT-6.2 Astra ni de GPT-6.2 Sol. La cuarta es la detección de campañas coordinadas, con investigación de cuentas y aplicación de sanciones por red.
OpenAI también publica datos sobre lo que cuesta la operación. La compañía afirma haber identificado varias campañas de destilación no autorizada durante 2026 y haber aplicado medidas semanales que han afectado desde miles hasta decenas de miles de cuentas, con una tasa de aplicación que aumentó de forma notable durante el verano. En septiembre, la compañía dio cuenta de una campaña de extracción de razonamiento y atribuyó una parte relevante de la actividad a individuos asociados a Moonshot AI, el desarrollador de Kimi. En febrero, además, informó al Congreso de actividad que indicaba que DeepSeek estaba intentando destilar modelos de frontera estadounidenses. OpenAI dice respaldar iniciativas legislativas como el Chip Security Act, el AI OVERWATCH Act y el MATCH Act, y sostiene que los controles de exportación más estrictos limitan el acceso de los adversarios al hardware necesario.
Hay un experimento interno que explica por qué OpenAI considera las trazas exactas y no solo las respuestas. La compañía entrenó un modelo estudiante con trayectorias completas de modelos profesor de nivel Astra, en tareas de programación y ciberseguridad defensiva, y comparó tres fuentes de entrenamiento: el contenido visible por el usuario (respuestas finales, resúmenes de razonamiento e interacciones con herramientas), el razonamiento exacto y, como control, una segunda vuelta de refuerzo. Tras el ajuste fino supervisado, el estudiante entrenado con trazas exactas rindió por encima del entrenado con resúmenes. Tras el refuerzo, el estudiante con trazas exactas siguió puntuando más alto en el presupuesto de inferencia más alto probado en los dos benchmarks, mientras que el estudiante con resúmenes aventajaba en presupuestos bajos. La lectura es incómoda para cualquiera que use un modelo para enseñar a otro: la traza de razonamiento es un bien mucho más precioso de lo que parece, y protegerla no es un detalle de formato.
La otra mitad del trabajo es industrial, no de laboratorio. OpenAI describe un doble nivel de vigilancia: el control de la petición individual y, por encima, la detección de campañas que coordinan ataques a lo largo de muchas cuentas y workspaces. Cuando un ataque se rompe en producción, el caso se convierte en ejemplo de entrenamiento y en test de regresión. La compañía comparte indicadores de compromiso con otros proveedores de modelos y participa en el Frontier Model Forum y en canales de intercambio de información con gobiernos, con la idea de subir el suelo mínimo de salvaguardas en todo el sector. También propone una receta para los demás: proteger el razonamiento privado a lo largo de toda la interacción, guardar los registros de ataques exitosos como tests de regresión, y combinar las mitigaciones por petición con la investigación y el castigo a nivel de campaña.
OpenAI publica cómo combate la destilación adversarial y centra sus defensas en el razonamiento protegido, las trazas internas de cadena de pensamiento que el modelo no enseña en la respuesta final.
En pruebas adaptativas de caja negra con seis modelos atacantes, la extracción de razonamiento de una petición anterior pasó del 54,0 % en GPT-6 Astra al 0,2 % en GPT-6.2 Astra, y la de la petición en curso del 22,9 % al 0,9 %.
Las defensas combinan entrenamiento adversarial, clasificadores de entrada y salida, protecciones de API que atan el razonamiento a su historial de conversación e investigación de campañas coordinadas con sanción por red.
OpenAI afirma haber detectado varias campañas no autorizadas en 2026, con acciones semanales que han afectado desde miles hasta decenas de miles de cuentas, y haber atribuido parte de una campaña a individuos asociados a Moonshot AI, el desarrollador de Kimi.
La compañía apoya legislación como el Chip Security Act, el AI OVERWATCH Act y el MATCH Act, y pide al sector que comparta indicadores de compromiso para elevar el listón de salvaguardas.
Visto desde las redes y las telecomunicaciones, el trozo más interesante no es el modelo ni el porcentaje, es la arquitectura de control que se parece a la que ya aplicamos en la infraestructura. Un clasificador de entrada y otro de salida, con la inspección de los argumentos de las llamadas a herramientas, se parece a una inspección de tráfico en la que el norte-sur es la petición y el este-oeste es la respuesta: si el filtro solo mira un lado, el contenido se escapa por el otro. Es exactamente el fallo que se ha visto mil veces en reglas de filtrado mal planteadas, y el hecho de que OpenAI dedique una línea entera a cubrirlo dice que ya lo han sufrido en producción.
La decisión de atar el razonamiento protegido al historial de la conversación que lo produjo es, en el fondo, un control de estado de la conversación. Si el mensaje se reescribe, el razonamiento derivado deja de existir: es invalidación de caché con semántica de seguridad, no de rendimiento. Me parece la idea más transferible del anuncio, porque funciona igual en un backend que en una red: la dependencia implícita se declara, y lo que depende de lo que se reescribe se tira.
El otro punto que me genera dudas es la escala. Decenas de miles de cuentas sancionadas por semana y un 0,2 % de éxito de ataque son cifras de una plataforma con una superficie enorme y un equipo de seguridad dedicado. Para una empresa mediana que monta su propio agente con un modelo de frontera, la conclusión práctica es que la salvaguarda no viene en la API: hay que ponerla en el diseño del flujo, empezando por no registrar razonamientos y por tratar cualquier traza como dato sensible con su propio ciclo de vida. Confiar en que el proveedor filtre es confiar en que el tráfico que no ves por tu propio cortafuegos cumple la política. Ya sabemos cómo acaba esa historia.
Referencia y documentación original: OpenAI.
https://openai.com/index/combatting-adversarial-distillation