OpenAI estudia por qué entrenar una IA más capaz también puede hacer más difícil supervisarla
Un trabajo del 10 de noviembre analiza cómo cambia el texto de trabajo de los modelos durante su entrenamiento. Sus pruebas usan indicadores indirectos y no demuestran por sí solas engaño en el uso cotidiano.
Por qué confiar en Pulso Diario
Ilustración editorial original
Algunos sistemas de IA escriben un texto de trabajo antes de responder. Revisarlo puede ayudar a detectar acciones problemáticas. OpenAI ha estudiado cómo varias decisiones de entrenamiento afectan a la utilidad de ese mecanismo de supervisión.
Aprender a resolver y a cambiar el texto de trabajo
El estudio mide dos capacidades: resolver tareas sin escribir pasos intermedios y modificar ese texto cuando se le pide. Los experimentos relacionan mejoras del modelo con más capacidad para responder sin esos pasos. También observan que el entrenamiento mediante recompensas puede aumentar su capacidad para cambiar el texto, incluso sin premiar directamente su contenido. Otro experimento detecta que esa propiedad puede transmitirse al entrenar un modelo con ejemplos producidos por otro.
Fuentes: [1] OpenAI Alignment · estudio sobre entrenamiento y supervisión
Por qué los investigadores quieren conservar esa pista
Un trabajo anterior, publicado en las actas de ICML de 2026, comparó supervisores que solo veían las acciones con otros que también recibían el razonamiento escrito. En esas pruebas, disponer de los pasos ayudó a detectar conductas problemáticas, aunque no siempre. El mismo trabajo encontró que dedicar más recursos al supervisor podía mejorar la vigilancia. Son resultados de evaluación: no una garantía de detectar cualquier fallo en una herramienta comercial.
Fuentes: [2] Guan y colaboradores · Monitoring Monitorability, ICML 2026

Ilustración editorial original
Cambiar una explicación no equivale a engañar
La investigación nueva reconoce que sus indicadores son imperfectos. En una comparación entre modelos de capacidades parecidas, el que modificaba mejor su texto no fue más eficaz al evadir al supervisor. Por eso hacen falta pruebas diversas de comportamiento, además de revisar razonamiento. Para valorar una IA que realiza tareas, importa comprobar qué acciones ejecuta y qué controles la limitan, no deducir su seguridad únicamente de una explicación convincente.
Fuentes: [1] OpenAI Alignment · estudio sobre entrenamiento y supervisión · [2] Guan y colaboradores · Monitoring Monitorability, ICML 2026
La supervisión de una IA necesita comprobar acciones además de explicaciones
Interpretación. Que un sistema describa pasos comprensibles es una ayuda para supervisarlo, pero no resuelve por sí sola la pregunta de si actúa de forma segura. Un mecanismo de vigilancia aporta una señal entre varias. Esa perspectiva evita tanto confiar ciegamente en una explicación como desechar toda supervisión porque tenga límites.
Riesgos. Los indicadores de laboratorio permiten ordenar experimentos, pero pueden convertirse en titulares demasiado amplios si se equiparan a engaño real. Lo responsable es preguntar qué conducta se evaluó, en qué condiciones y con qué relación demostrada con los fallos que se quieren evitar. La capacidad y la intención tampoco son equivalentes.
Consecuencias. Para quienes incorporan asistentes a procesos, conviene separar la calidad de la respuesta, los permisos para actuar y la vigilancia de lo ejecutado. Ninguna explicación debería sustituir la comprobación de resultados. Un conjunto de controles complementarios permite aprender de los fallos sin depender de una única pista.
Opinión de Pulso Diario · elaborada a partir de los hechos y fuentes citadosAlcance de la evidencia
El trabajo del 10 de noviembre y el artículo de ICML proceden de equipos vinculados a OpenAI y no constituyen una auditoría externa del producto. El propio estudio documenta comparaciones donde la facilidad para cambiar el razonamiento no predice una mayor evasión del supervisor.
Fuentes: [1] OpenAI Alignment · estudio sobre entrenamiento y supervisión · [2] Guan y colaboradores · Monitoring Monitorability, ICML 2026
Comentarios · ¿qué duda te queda?
¿Qué dato te ayudaría a entender mejor esta noticia? Comparte tu pregunta o señala un posible error con su fuente. Usaremos las dudas para orientar nuevas explicaciones, sin prometer una respuesta individual.
Los comentarios se revisan antes de publicarse. Respeta a los demás, aporta argumentos y evita publicidad o datos personales. Puedes eliminar tus propios comentarios.
Google se cargará al pulsar. Privacidad.
Has accedido con Google.











