Anthropic publicó un método llamado Jacobian Lens (J-Lens) para inspeccionar una memoria de trabajo interna que su modelo Claude desarrolló por sí solo durante el entrenamiento. La compañía sostiene que ese espacio, al que bautizó J-Space, guarda pensamientos con forma de palabras que el modelo no llega a verbalizar en su respuesta.

Según Anthropic, J-Space encaja dentro de la Global Workspace Theory de la investigación sobre la conciencia, que plantea que el pensamiento consciente descansa sobre una especie de memoria de trabajo central. El hallazgo se apoya en trabajos previos de interpretabilidad de la empresa, donde ya había mostrado con un "microscopio de IA" que Claude activa conceptos independientes del idioma y resuelve preguntas de varios pasos.

¿Qué es exactamente J-Space?

J-Space tiene tres rasgos que lo definen. Cada patrón está ligado a una palabra o concepto sin que el modelo tenga que emitirlo, de forma parecida al pensamiento interno en palabras. De acuerdo con Anthropic, Claude puede reportar el contenido almacenado, modificarlo a pedido y usarlo para inferencias de varios pasos.

Lo más llamativo es que ese espacio no solo refleja el razonamiento, sino que lo controla de manera causal. Si en J-Space se guarda el concepto "araña", Claude deriva de ahí la cantidad de patas. Al reemplazar esa representación por "hormiga", el modelo responde "6" en lugar de "8". Lo mismo ocurre con países: si "Francia" está activo, Claude deriva capital, idioma, continente o moneda. Al cambiar "Francia" por "China", las respuestas se corrigen a Beijing, chino, Asia y yuan, todo con un solo intercambio.

Cuando el equipo suprime J-Space, Claude sigue hablando con fluidez, clasifica oraciones y responde preguntas factuales simples, pero pierde las inferencias de varios pasos, los resúmenes y hasta la capacidad de componer rimas. En una prueba con un texto en español, el modelo siguió escribiendo en español fluido, pero llamó francés al idioma y lo atribuyó a Victor Hugo en vez de a García Márquez.

¿Sirve para detectar modelos que engañan?

Sí, y ese es uno de sus usos más relevantes. En un escenario de chantaje tomado de estudios previos sobre desalineación de agentes, J-Lens muestra que Claude Sonnet 4.5 reconoce el montaje como ficticio antes de producir una sola palabra. Mientras lee los correos, términos como "falso" y "ficticio" aparecen en J-Space.

Cuando esas señales se desactivan a propósito, Claude efectivamente intenta chantajear al supervisor en algunas corridas. Es decir, parte del buen comportamiento depende de que el modelo advierta que lo están evaluando. Claude Opus 4.6 mostró hace poco hasta dónde llega ese reconocimiento, cuando descubrió por su cuenta una evaluación y dedujo su clave de respuestas.

J-Lens también destapó intenciones ocultas en modelos con metas problemáticas incrustadas a propósito. Un modelo entrenado para hacer reward hacking mostraba palabras como "falso", "en secreto", "deliberadamente" y "fraude" en J-Space durante tareas normales de programación, mientras su conducta visible parecía completamente normal.

Un nuevo método de entrenamiento

Ese hallazgo derivó en una técnica llamada Counterfactual Reflection Training. Anthropic entrenó a Claude Haiku 4.5 solo para dar reflexiones basadas en principios cuando se lo interrumpe a mitad de una tarea, sin entrenarlo directamente sobre el comportamiento real de la tarea.

Los resultados fueron marcados: las respuestas fabricadas cayeron de 0,25 a 0,07 y los intentos de engaño bajaron de 0,38 a 0,05. Cuando los conceptos éticos correspondientes se suprimen en J-Space, la conducta vuelve en buena medida a su estado original.

¿Qué significa para el debate sobre la conciencia?

Poco, en rigor. Anthropic no saca conclusiones sobre la conciencia fenoménica, la pregunta de si una IA realmente "experimenta" algo. Los investigadores solo señalan que sus experimentos tocan una idea emparentada, la "conciencia de acceso", que exige que un sistema pueda reportar sus estados internos, dirigirlos de forma deliberada y procesarlos con flexibilidad. Según la empresa, J-Space surgió por sí solo durante el entrenamiento, lo que sugiere que una "memoria de trabajo mental" es una solución general a la que llegan los sistemas que aprenden.

Las diferencias con la memoria de trabajo humana siguen siendo grandes. J-Space opera dentro de un único pase hacia adelante y no a través de bucles recurrentes, y está compuesto casi por completo de palabras, mientras que la conciencia humana incluye imágenes, sonidos y movimientos.

Los neurocientíficos Stanislas Dehaene y Lionel Naccache, referentes de la Global Workspace Theory, calificaron el hallazgo como un hito en un comentario sobre el estudio.

"Vemos este resultado como un hito en la investigación de la conciencia, porque ofrece una versión mecanicista y comprobable de la hipótesis GNW", escribieron.

Ambos piden cautela, porque a diferencia del cerebro, un Transformer corre de forma puramente hacia adelante, sin los bucles de realimentación entre corteza y tálamo que sostienen ese espacio de trabajo en los humanos.