Richard Sutton, ganador del Premio Turing, escribió en una publicación reciente en X que el cómputo bruto no alcanza para lograr inteligencia. Según él, la ciencia de la IA necesita métodos nuevos e ingeniosos y está "lejos de terminar". La publicación abrió una discusión amplia en la comunidad de IA en X, señal de que Sutton tocó un punto sensible.

La ironía es que Sutton es el autor de The Bitter Lesson ("La lección amarga"), su famoso ensayo de 2019. Ahí sostenía que los métodos generales que escalan con el cómputo terminan ganándoles a los enfoques sofisticados diseñados por personas. Lo que importa, decía, son las ideas que crecen con el cómputo y no las que dependen de supuestos humanos.

Una crítica que no es nueva

La postura de Sutton no es nueva. En declaraciones anteriores ya había criticado los límites de simplemente escalar los grandes modelos de lenguaje. Calificó los datos sintéticos como un "gran error", porque el mundo real es infinitamente complejo y cualquier simulación de él es apenas "microscópica". Para Sutton, la experiencia humana usada como insumo es un cuello de botella que impide escalar de verdad.

En su lugar, propuso agentes con modelos del mundo que aprendan de forma continua de su propia experiencia. El mundo es muchísimo más complejo de lo que puede capturar el texto de internet, y los modelos de lenguaje actuales dejan de aprender después del entrenamiento, argumenta Sutton. Lo que hace falta, según él, es aprendizaje continuo que no destruya el conocimiento anterior.

¿Qué dicen otros investigadores?

El investigador Jerry Tworek, que como muchos otros dejó OpenAI para explorar enfoques nuevos, puso en contexto la última declaración de Sutton. La lección amarga sigue vigente, escribió Tworek, pero mientras más cómputo se mete en el entrenamiento de un modelo, más importa el algoritmo.

Algunos algoritmos escalan, otros llegan a callejones sin salida, y muchas dimensiones del escalamiento siguen sin explorar. Para Tworek, el éxito temporal del escalamiento de los transformers, sumado a una mala lectura de la lección amarga, "le hizo reward hacking al cerebro de toda una generación de científicos".

El investigador Jayden Teoh agrega otro ángulo. Dice que ha visto varias veces cómo la lección amarga frena la investigación académica, porque se descartan ideas prometedoras por alejarse demasiado de su espíritu. Teoh aclara que eso viene de una mala lectura del mensaje original y que Sutton no tiene la culpa.

Teoh sostiene además que las ideas que, vistas en retrospectiva, no seguían la lección amarga muchas veces fueron reemplazadas por enfoques más limpios y generales. Eso no las hacía erróneas, dice, porque a menudo fueron las que permitieron avanzar en su momento. Pide que la comunidad deje de descartar ese tipo de trabajo apenas aparece.

"Una idea no tiene por qué sobrevivir al escalamiento para siempre para ser un aporte importante al progreso de la IA", escribe Teoh.

Laboratorios nuevos que apuestan por esa brecha

La tensión entre el llamado de Sutton a nuevos métodos de aprendizaje y la crítica de Tworek al escalamiento ciego de los transformers se ve en una ola creciente de empresas emergentes. The Decoder contó 45 laboratorios de IA nuevos que apuestan justamente por esos vacíos en su informe Frontier Radar #5.

El propio Tworek dirige Core Automation, uno de esos laboratorios, que busca algoritmos de aprendizaje más allá del preentrenamiento y el aprendizaje por refuerzo. Lo que une a estos fundadores, entre ellos Sutton con Oak Lab, es que creen en una IA mucho más capaz, pero dudan de que la receta actual alcance por sí sola.

Los que siguen apostando por escalar

Varios líderes de la industria lo ven de otra manera. Sam Altman, CEO de OpenAI, cree que el escalamiento de los modelos de lenguaje está lejos de agotarse, y acusa a los críticos de frenar a toda una generación de investigadores por estar demasiado seguros de lo que el escalamiento no puede hacer.

Como prueba, Altman apunta a un modelo de OpenAI que hace poco refutó una conjetura matemática que los matemáticos llevaban años sin poder resolver. Considera útiles los modelos del mundo, por ejemplo en robótica, pero dice que los datos favorecen claramente seguir escalando los modelos de lenguaje.

Dario Amodei, CEO de Anthropic, argumenta algo parecido y describe el progreso del escalamiento como un arcoíris sin final.

Como CEO de las dos empresas de IA cuyo enfoque técnico completo descansa en esa apuesta, Amodei y Altman tienen un sesgo evidente a favor de ella.