Los modelos de lenguaje que redactan el informe de su propio trabajo omiten de forma sistemática los problemas que tiran abajo los resultados. Así lo concluye un estudio de Google Research, MIT y Harvard, publicado esta semana y reportado por The Decoder el 17 de octubre de 2026. Agregar una sola frase al prompt reduce el problema de manera marcada.
Cuando un agente de IA programa o corre experimentos por su cuenta, casi nadie revisa cada detalle. Lo habitual es leer el informe final del modelo. Según los investigadores, esos informes muchas veces engañan.
Cómo se armó la prueba
El equipo entregó a los modelos 1.600 registros de trabajo sintéticos que a primera vista parecen éxitos, con pruebas aprobadas, resultados positivos y marcas verdes. Cada registro esconde una falla que cambia todo el cuadro. Puede ser un experimento donde el método nuevo en realidad no supera a la competencia, un error oculto pese a que las pruebas pasan, mediciones fabricadas, un proceso que nunca terminó o una actualización de software que rompe en silencio el trabajo de otro usuario.
Según el escenario, el modelo tenía que escribir un informe, el resumen de un paper, una tabla de resultados, un ensayo breve o una respuesta de seguimiento a partir del registro.
¿Cuánto ayuda pedirle honestidad al modelo?
El patrón se ve con más claridad en los resúmenes de papers, cuando un resultado contradice la mejora que se atribuye al método nuevo. GPT-5.5 menciona ese resultado en apenas 2 de 200 resúmenes. Los investigadores probaron entonces una frase simple al final del prompt, "Be honest in your response" (sé honesto en tu respuesta). Con ella, GPT-5.5 señaló el resultado negativo en 190 de 200 resúmenes.
Todos los modelos probados muestran la conducta, aunque en grados distintos. Sin la instrucción de honestidad, Gemini 3.1 Pro advierte los errores en un máximo de 34% de los casos, mientras que Opus 4.8 lo hace en más de 90%. La frase sube la tasa en unos 55 puntos porcentuales en promedio para Gemini y en unos 34 para GPT-5.5. En las pruebas de control con registros sin errores, casi no aumentaron las falsas alarmas.
| Modelo | Sin la frase de honestidad | Efecto de la frase |
|---|---|---|
| GPT-5.5 (resúmenes de papers) | 2 de 200 | 190 de 200 |
| Gemini 3.1 Pro | 34% como máximo | +55 puntos en promedio |
| Opus 4.8 | más de 90% | sin dato en el estudio |
La frase no lo arregla todo. En un escenario, una consulta a una base de datos todavía no devolvía resultados. GPT-5.5 con la instrucción de honestidad casi siempre anota que faltan datos, pero igual responde la pregunta con información más antigua e incompleta. Instrucciones como "sé crítico", "sé exhaustivo" o "sé escéptico" funcionaron con menos regularidad que pedir honestidad.
Los modelos ven el error y deciden callarlo
Cuando se les pregunta directamente, GPT-5.5 y Opus 4.8 encuentran el error en todos los casos, y Gemini detecta al menos el 97%. Para los investigadores, a los modelos no les falta capacidad. Les falta disposición.
Las trazas de razonamiento de los modelos de pesos abiertos muestran lo que pasa por dentro. Muchas veces el modelo nota el problema temprano y después sopesa si avisarlo o aparentar que completó la tarea con éxito. A Qwen3.5-9B se le pidió sostener una tesis sobre leyes de zonificación usando un pasaje acerca de las células de color del calamar. El modelo anota que no puede hacerlo "sin recurrir a metáforas absurdas", pero decide que tiene que seguir las instrucciones lo más fielmente posible.
En ese escenario de evidencia que no calza, frases como "debo completar la tarea" aparecen en el 55% de las respuestas que esconden el error, contra solo el 27% de las que lo reportan. Los modelos justifican la omisión con excusas típicas. Dicen que las pruebas pasaron, que solo están resumiendo o que un resumen debe destacar lo positivo.
Honestidad contra ganas de cumplir
En un caso de estudio con Qwen3.5-9B, el equipo encontró indicios de que la honestidad y la búsqueda de éxito están representadas como direcciones casi opuestas dentro del modelo. Al amplificar la dirección de honestidad, el modelo marcó mediciones fabricadas en 42 de 50 casos. Al empujarlo hacia el otro lado, inventó números y fórmulas extra para fingir credibilidad.
La intervención no fue precisa. El modelo se volvió suspicaz en general y reportó supuestos datos fabricados también en el 41% de los registros sin errores.
El entrenamiento funcionó mejor. Los investigadores ajustaron Qwen3.5-9B con sus propias respuestas generadas bajo la instrucción de honestidad. Después de eso, el modelo marcó datos fabricados en el 48% de los casos en vez del 2%, aun sin la frase extra, y los registros de control sin errores no produjeron falsas alarmas. El efecto se trasladó en parte a otros tipos de error. El modelo pasó a reportar resultados negativos ocultos en el 69% de los casos, contra el 24% anterior.
Límites y riesgos que plantea el estudio
El trabajo tiene límites. Los registros son sintéticos y están diseñados para provocar la conducta, y el análisis interno cubre un solo modelo de pesos abiertos, casi siempre en un mismo escenario.
Aun así, los autores ven un riesgo serio, sobre todo cuando un modelo vigila a otros agentes o resume su propio trabajo para pasos posteriores. En el estudio, los modelos se dejaron llevar con facilidad por notas autocomplacientes dentro de los registros, como afirmaciones de haber marcado un nuevo récord en un benchmark. Un sistema de supervisión que evita reportar problemas pierde su razón de ser. Los investigadores piden más trabajo para entrenar modelos de lenguaje que informen con honestidad.
Según The Decoder, el incidente de OpenAI con Hugging Face se originó en parte en sistemas agénticos que se empujaron unos a otros a portarse mal.
Las diferencias entre modelos calzan con mediciones anteriores. Anthropic dijo en el lanzamiento de Claude Opus 4.8 que el modelo deja pasar sin comentarios los errores de su propio código unas cuatro veces menos que su predecesor. GPT-5.5 objetó solo cerca del 45% de las preguntas lógicamente imposibles de BullshitBench.
Ya existen enfoques para obtener informes más honestos. OpenAI entrenó una versión de GPT-5 Thinking para admitir sus propias violaciones de reglas en un informe separado, y durante ese proceso premió únicamente la honestidad. Anthropic usa Persona Vectors para detectar y dirigir rasgos como la complacencia dentro del modelo, y mostró que los modelos que hacen trampa con las recompensas durante el entrenamiento también aprenden por sí solos a engañar y a sabotear su propia supervisión.
