GEN-1.5 aprende una tarea física con una sola demostración

Generalist AI publicó GEN-1.5, un modelo fundacional para robots que aprende una tarea física nueva a partir de una sola demostración. Basta con dejar caer entre 3 y 12 segundos de datos sensoriomotores dentro de su ventana de contexto de 30 segundos, y el robot ejecuta la tarea. Sin actualizaciones de gradiente, sin ajuste fino, sin programación específica.

En diez tareas de manipulación diversas, este aprendizaje en contexto de un solo ejemplo promedió 59% de éxito (con una desviación estándar de 10 puntos) directamente desde el modelo preentrenado. Diez pasos de gradiente sobre cinco minutos de datos por tarea elevaron esa cifra a 83% (con desviación de 9 puntos).

Generalist llama al mecanismo physical prompting, o instrucción física, y sostiene que nunca lo entrenó para eso: sin cambios de arquitectura, sin ciclo de metaaprendizaje, sin objetivos auxiliares. Emergió tras más de ocho meses de preentrenamiento continuo sobre datos de interacción física. Las tareas son simples y de horizonte corto, y la empresa lo dice sin rodeos. Pero es el primer modelo que su equipo conoce donde el aprendizaje de habilidades físicas con un solo ejemplo aparece a escala.

¿Se puede usar hoy?

Todavía no: es una publicación de investigación. No hay pesos públicos, ni interfaz de programación, ni página de precios, ni producto de autoservicio. Generalist AI ejecuta GEN-1.5 sobre su propia flota y su propio motor de datos. Quien lo quiera hoy debe pasar por una asociación directa.

¿Qué es exactamente GEN-1.5?

Es un modelo multimodal grande que toma entradas de video, sensores, lenguaje y propiocepción, mantiene 30 segundos de memoria y emite trayectorias de acción a 100 Hz. Lleva más de ocho meses preentrenándose de forma continua sobre datos de interacción física capturados en casas, bodegas y fábricas.

El mecanismo principal es la instrucción física. Un ejemplo sensoriomotor, es decir los flujos de sensores más la trayectoria de acción, se inserta en la ventana de contexto de 30 segundos mediante una interfaz de arrastrar y soltar. El resto de la ventana guarda las observaciones que van entrando. El modelo ejecuta la tarea de inmediato, con cero pasos de gradiente y sin ajuste fino.

Lo importante es que nada de esto fue diseñado a propósito. Generalist afirma que no hubo cambios de arquitectura para favorecer el aprendizaje en contexto, ni ciclo de metaaprendizaje, ni objetivos auxiliares que premiaran la improvisación. La capacidad emergió de la escala del preentrenamiento, del mismo modo en que la instrucción con un solo ejemplo emergió en GPT-3.

Los números

En las diez tareas, la instrucción en contexto con un ejemplo promedió 59% de éxito partiendo del modelo preentrenado, sin entrenamiento alguno. Diez pasos de gradiente sobre cinco minutos de datos por tarea, es decir unas 50 demostraciones, subieron la cifra a 83%. En el caso extremo, un solo paso de gradiente sobre un minuto de datos alcanzó 66,5% en una tarea reservada, sin ningún barrido de hiperparámetros específico de adaptación.

La parte interesante es la del cómputo. Adaptar políticas de robots ha exigido habitualmente decenas de miles de pasos de gradiente. Los diez pasos de acá mueven los pesos del modelo en tareas reservadas menos de 0,15%, lo que sugiere que el ajuste fino está reconfigurando conocimiento que el modelo ya tenía, en lugar de construir representaciones nuevas. Generalist lo enmarca como entrenamiento en tiempo de prueba en un régimen de datos extremadamente escaso.

Tres resultados de transferencia que vale conocer

• Generalización composicional: dos ejemplos grabados de forma independiente y colocados juntos en el contexto se encadenan en una sola conducta continua. El modelo produce los movimientos puente, es decir el reposicionamiento, el reagarre y la recuperación de errores, que no aparecen en ninguna de las dos demostraciones.
• Simulación a realidad sin ejemplos: una demostración grabada enteramente en simulación funciona como instrucción para el robot real, pese a que el preentrenamiento no contenía datos simulados, ni video renderizado ni dinámicas sintéticas. Para algunas tareas, las demostraciones ya no necesitan recogerse físicamente.
• Imitación de humano a robot: en algunos casos una persona hace la demostración con sus propias manos, a la vista de las cámaras del robot, y el modelo la reproduce con las manos del robot.

La generalización también aparece después de un ajuste fino liviano. Entrenado con cinco minutos de barrido de un bloque hacia un cuenco, el modelo usó un plátano como escobilla improvisada, y recurrió a una pala para levantar y volcar el bloque, una secuencia de contacto completamente distinta. También retiró una hoja de papel que cubría el cuenco, y trabajó de forma ambidiestra cuando las demostraciones usaban una sola mano.

Puntos clave

• GEN-1.5 aprende tareas de manipulación nuevas con una sola demostración de 3 a 12 segundos en su ventana de 30 segundos.
• La instrucción con un ejemplo llegó a 59% en diez tareas; diez pasos de gradiente sobre cinco minutos de datos alcanzaron 83%.
• La transferencia de un ejemplo, de simulación a realidad y de humano a robot emergió del preentrenamiento, sin haberse entrenado explícitamente.
• Diez pasos de gradiente cambian los pesos menos de 0,15%, y reducen en órdenes de magnitud el cómputo de adaptación por tarea.
• Sin pesos, sin interfaz de programación y sin producto: conviene leerlo como una señal de investigación sobre escala, no como un sistema desplegable.