"Tenemos un rayo dentro de una botella y aun así no sirve", le dijo Diogo Almeida a TechCrunch. Almeida fue investigador de OpenAI, ayudó a construir ChatGPT y participó en la invención del reinforcement learning from human feedback (RLHF), la técnica de entrenamiento que sostiene buena parte de la era actual de la IA. El resultado lo dejó insatisfecho.
"Vengo peleando con ese problema desde entonces. Me costó llegar a la conclusión. El problema es que estamos optimizando para el lenguaje humano... Llevamos cuatro años siendo muy buenos en lenguaje humano, pero eso no sirve para la automatización porque los computadores hablan otro idioma", agregó.
Hace dos años Almeida dejó OpenAI para fundar TypeSafe AI. Esta semana la empresa liberó Jev, un modelo basado en transformers que no es un modelo grande de lenguaje. No produce texto. Produce probabilidades, o lo que la empresa llama "decisiones calibradas".
¿Por qué sacarle el lenguaje al modelo?
Dejar el lenguaje fuera tiene dos efectos. El modelo resulta barato y rápido, y como el usuario define las salidas por adelantado, no puede alucinar. Los tokens de salida son gratis y los de entrada se cobran por cada mil millones, no por millón.
El interés de los desarrolladores fue tal que la empresa perdió por un rato la capacidad de atender a sus usuarios desde la API. Jev aparece como la herramienta más útil para automatización de software, y quienes programan lo ven como una manera más barata y más firme de meter inteligencia dentro del código.
Las pruebas que hicieron los desarrolladores
Pranit Sharma, ingeniero de software en Vercel, contó que su empresa usaba ChatGPT Luna 5.6 de OpenAI para correr un clasificador que revisaba comandos por seguridad. Al reemplazar Luna por Jev, los resultados llegaron entre 5 y 18 veces más rápido y con mayor exactitud.
Nikhil Mudholkar, CTO de Bryo AI, probó Jev contra Gemini para clasificar correos de empresa. En su medición Gemini quedó apenas más exacto, pero salió entre 10 y 20 veces más caro. A Mudholkar le llamó más la atención otra cosa, los puntajes de confianza que devuelve Jev.
"Es el único que devuelve una probabilidad real, y eso lo hace ideal para automatizar flujos de trabajo", escribió.
Reemplazar al modelo de lenguaje o vigilarlo
Además de ocupar el lugar de un modelo de lenguaje en ciertos casos, Jev puede acompañarlo como control de conducta. Poner agentes a vigilar agentes se encarece rápido, y Almeida sostiene que hacerlo con Jev tiene sentido. Lo ve funcionando sobre las trazas de los agentes para frenar intentos de jailbreak.
"Al final del día le traspasa un poco el problema de la alucinación al usuario", explicó Armin Ronacher, CTO de Earendil, la empresa que construye el arnés de modelos de código abierto Pi. "El usuario tiene que decir, bueno, si esto vuelve con 50% de probabilidad, quizás es una moneda al aire y lo descarto. Pero si viene con 95%, ahí sí puedo hacer algo con eso."
Ronacher menciona otro uso posible, el enrutamiento de modelos. Anticipar si una carga de trabajo necesita un modelo específico sirve, pero usar un modelo de lenguaje para esa tarea sale caro. El costo bajo y la velocidad de Jev vuelven viable esa clasificación en tiempo real.
¿De dónde sale el nombre?
El modelo lleva el apellido de William Stanley Jevons, el economista del siglo XIX cuya paradoja describe cómo la caída del precio de un bien termina aumentando su consumo. Almeida aplica la idea a la inteligencia artificial.
"Creemos que va a haber software inteligente por todas partes, de una forma emergente y distribuida... mucho más parecido a los inicios de internet que a las megaaplicaciones que la gente está tratando de construir ahora", dijo Almeida.
Sobre la arquitectura del modelo habla poco. Observadores externos sospechan que está construida encima de un modelo de lenguaje de pesos abiertos. La empresa describe a Jev como un "modelo de Sistema Uno", enfocado en la intuición antes que en el razonamiento y apuntado a la tarea correcta. Almeida afirma que Jev se entrenó exclusivamente con datos sintéticos, mediante una técnica que él llama "aprendizaje por refuerzo a partir de decisiones calibradas".
"Hicimos una apuesta temprana de fabricar todos nuestros datos, y ha sido una de las mejores apuestas de mi vida, mejor que nuestro lanzamiento, en mi opinión, mejor que el RLHF", contó a TechCrunch. "La mitad de la empresa es un laboratorio que es dueño de todo este subcampo de datos sintéticos estadísticamente bien entendidos, y esa es hoy la alegría de mi vida."
Por ahora Jev es el único modelo de su tipo. Ronacher espera que aparezcan competidores ahora que quedó a la vista para qué sirve.
"Deberíamos haberlo visto antes en muchos sentidos, pero como los modelos de lenguaje son tan baratos y están tan subsidiados, uno muchas veces todavía no necesita ser creativo", dijo.
TypeSafe trabaja en más versiones del modelo, en modalidades nuevas. Consultado sobre si TypeSafe es un laboratorio de frontera, Almeida respondió que "el producto principal de los laboratorios de frontera es el miedo o el entusiasmo exagerado. Me gustaría que nuestro producto principal fuera la inteligencia... no somos un laboratorio en el sentido de apostar a la riqueza infinita, o una religión, o construir a Dios en un centro de datos, o lo que sea que esté de moda hoy".
