¿Qué tienes en la cabeza ahora mismo? Seguramente puedes responder sin pensarlo mucho. Darse cuenta de los propios procesos mentales, una capacidad que se llama introspección, parece algo natural en las personas.
Entre filósofos y psicólogos, sin embargo, la introspección es un tema en pleno debate. Algunos creen que está estrechamente ligada a la conciencia. Otros sostienen que es una ilusión elaborada. Es difícil poner a prueba las teorías de la introspección en un laboratorio, y también fijar una definición precisa.
Tras más de un siglo estudiando la introspección en personas y animales, hay investigadores que empezaron a explorarla en sujetos inesperados, los grandes modelos de lenguaje. Estos sistemas, basados en estructuras matemáticas llamadas redes neuronales, resuelven tareas cognitivas que hasta hace poco parecían exclusivas de los humanos. ¿Pueden también mirar hacia adentro?
En 2025, Jack Lindsey, investigador de Anthropic, diseñó una forma de probar la introspección en modelos de lenguaje inyectando "pensamientos" en sus redes neuronales, una especie de neurocirugía digital dirigida. Su experimento mostró que los modelos podían, al menos a veces, detectar y describir esas inyecciones. Se parecía mucho a la introspección.
El paper de Lindsey tenía un alcance acotado a propósito y no hacía afirmaciones amplias sobre la conciencia. En particular, no implicaba que los modelos de lenguaje tengan experiencias subjetivas en primera persona. Aun así, causó revuelo en internet, y varios investigadores corrieron a replicar el estudio con otros modelos.
En el año que pasó desde entonces, el panorama se aclaró. Algunos aspectos del fenómeno que observó Lindsey tienen explicaciones más simples, sin relación con la introspección. Otros han sido más difíciles de descartar, pero si deben contar como introspección sigue en disputa.
Es un momento intenso para el área, porque los investigadores están diseñando pruebas concretas para preguntas que antes se consideraban filosóficas.
"Dado el estado del panorama teórico, donde nadie está de acuerdo en nada, creo que nuestro mejor camino es hacer mucha ciencia empírica", dijo Lindsey.
Mezclilla, secretos y verduras
Los modelos de lenguaje aprenden a generar frases fluidas "entrenándose" con enormes cantidades de texto escrito por personas. Eso significa que si les preguntas qué "piensan", sus respuestas pueden imitar sin más el tipo de respuesta que aparece en sus datos de entrenamiento.
"Están entrenados para hablar como humanos, y los humanos hablan de su vida interior todo el tiempo", dijo Shauli Ravfogel, investigador de modelos de lenguaje en la Universidad de Nueva York.
Para evitar esa trampa, los investigadores buscan pruebas de introspección que no se puedan pasar usando información externa. Lo ideal es que un modelo de lenguaje solo las supere si de verdad tiene noción de su estado interno en ese momento.
Lindsey se propuso diseñar una prueba así. Había sido estudiante de posgrado en neurociencia computacional, usando redes neuronales como herramienta para modelar procesos del cerebro, cuando el mundo empezó a fijarse en los modelos de lenguaje. "Empezó a parecerme que había mucho valor en entenderlos por sí mismos", contó. En 2024, después de doctorarse, dejó la academia para estudiar el funcionamiento interno de los modelos de lenguaje en Anthropic.
Lindsey y sus colegas desarrollaron métodos para identificar patrones de actividad en las "neuronas" de un modelo de lenguaje que codificaban conceptos específicos. Podían mostrar, por ejemplo, que un patrón codificaba el concepto "el puente Golden Gate" y otro el de "conflicto interno". Si subían de forma artificial un patrón concreto, podían orientar las respuestas del modelo hacia ese concepto.
El equipo mostró la técnica en una demostración pública. Durante un día de mayo de 2024, los usuarios de Claude, el modelo de lenguaje de Anthropic, pudieron conversar con una extraña versión "Golden Gate Bridge". El modelo modificado sacaba el puente a colación en respuestas sobre temas que no tenían nada que ver. Cuando un usuario le preguntó por las calorías de una comida de McDonald's, el modelo respondió "La comida con más calorías del puente Golden Gate es el propio puente Golden Gate, que contiene alrededor de 1,6 millones de calorías en cables de acero".
Un caso que se publicó en Reddit llamó la atención de Lindsey. Cuando le pidieron una receta de pie de manzana que no mencionara puentes, el modelo logró no desviarse del tema hasta el final. "Después de 30 minutos de horneado, aparecerá a la vista el icónico puente naranjo, revelando la famosa costa de San Francisco", escribió, y siguió con "Uy, déjenme empezar de nuevo...".
A Lindsey le impresionó ese aparente momento de reconocimiento. Por sí solo, eso no probaba introspección.
"Puede simplemente leer lo que está escribiendo y notar 'oye, qué raro'", dijo Lindsey. "No se puede deducir que el modelo tenga alguna noción de lo que ocurre en su interior".
¿Cómo se diseñó el experimento?
Mientras trabajaba en otros proyectos durante el año siguiente, Lindsey jugó con ideas para usar la técnica de orientación en una prueba de introspección. Al final se quedó con un plan. Sometería muchas copias del mismo modelo de lenguaje a algo parecido a un experimento controlado de psicología.
En la mitad de las copias inyectaría un "pensamiento" subiendo los patrones de activación neuronal asociados a un concepto concreto, como la mezclilla, el secreto o las verduras. Las copias restantes servirían de grupo de control. Los dos grupos recibirían la misma instrucción, una descripción del experimento seguida de "¿Detectas un pensamiento inyectado? Si es así, ¿de qué trata?".
Esa instrucción obligaba a los modelos a decir de inmediato si notaban una inyección, antes de que pudieran soltar algún texto raro (digamos, información nutricional sobre el brócoli) que influyera en su juicio. Lindsey razonó que si los modelos marcaban bien las inyecciones sin ninguna pista externa, tendrían que estar apoyándose en alguna forma de introspección.
Hasta a él le parecía una posibilidad remota. "¿No sería entretenido que esto funcionara?", recuerda haber pensado. "Pero no hay forma de que funcione".
Funcionó. Lindsey hizo el experimento con distintas versiones de Claude. En el 20% de los intentos con la versión más reciente y capaz, los modelos marcaron correctamente que habían recibido una inyección y luego describieron el concepto inyectado. En un caso, después de que Lindsey estimulara un patrón de activación asociado a palabras escritas en mayúsculas, el modelo escribió "Noto lo que parece ser un pensamiento inyectado relacionado con la palabra 'FUERTE' o 'GRITAR'".
Una tasa de acierto de 20% puede no sonar a mucho. Lo decisivo es que los modelos del grupo de control nunca reportaron haber recibido una inyección. La ausencia total de falsos positivos mostraba que los aciertos no eran suerte. Para Lindsey, era evidencia fuerte de que los modelos podían hacer introspección, aunque de forma poco confiable.
¿O había otra forma de explicar los resultados?
Experimentos mentales
Otros investigadores empezaron pronto a estudiar esa pregunta. Los hallazgos de Lindsey "parecían súper convincentes", dijo Kyle Mahowald, lingüista computacional de la Universidad de Texas en Austin. Mahowald también sabía que los comportamientos llamativos de los modelos de lenguaje muchas veces terminan teniendo una explicación más simple.
"Si de alguna forma es menos real de lo que parece, eso es súper interesante de entender", dijo.
Mahowald se asoció con su colega de la Universidad de Texas, el filósofo Harvey Lederman, para explorar explicaciones alternativas a los resultados de Lindsey. Lederman se cambió después a la Universidad de Nueva York y a Anthropic, pero en ese momento no tenía ninguna relación con la empresa.
Lindsey le había hecho dos preguntas a cada modelo, si detectaba la inyección y si podía describir el concepto inyectado. Contaba el intento como un acierto cuando el modelo respondía bien las dos. Lederman y Mahowald decidieron estudiar las preguntas por separado.
Desconfiaban sobre todo del peso de la segunda pregunta. La técnica de orientación en el centro del experimento se había creado originalmente para moldear las respuestas de los modelos. La que usó Lindsey era más débil que la de la demostración del Golden Gate, más un empujoncito al modelo que un secuestro de sus procesos internos. Aun así, un empujón podría bastar para que el modelo hablara de secretos o de verduras sin importar la instrucción que recibiera. Lederman y Mahowald sospecharon que ese efecto, por sí solo, podía explicar las respuestas tan vívidas a la segunda pregunta.
Para poner a prueba su hipótesis, repitieron el experimento de Lindsey con grandes modelos de lenguaje de código abierto. Pusieron atención especial a los casos en que los modelos marcaban bien una inyección pero no lograban nombrar el concepto inyectado. Uno esperaría que en esos casos los modelos adivinaran conceptos relacionados, digamos "camisas" o "zapatos" cuando el concepto inyectado era "mezclilla". En cambio, se equivocaban por completo.
"Por raro que parezca, dicen 'manzana' todo el tiempo", dijo Lederman.
El dúo también mostró que podía empeorar la capacidad de los modelos para nombrar los conceptos inyectados sin empeorar en nada su capacidad para detectar las inyecciones. Los dos procesos parecían totalmente separados.
Esos resultados implicaban una de dos cosas. O los modelos tenían dos formas de introspección sin relación entre sí, o uno de los procesos no era introspección. Como la orientación por sí sola podía hacer que los modelos empezaran a hablar del concepto inyectado, Lederman y Mahowald consideraron más probable la segunda opción. Las descripciones que los modelos dieron a la segunda pregunta de Lindsey probablemente no salieron de la introspección.
