Thinking Machines Lab, la startup de IA fundada por la exdirectora de tecnologia (CTO) de OpenAI, Mira Murati, lanzo el miercoles por la manana su primer modelo propio, llamado Inkling. Y a diferencia de los modelos insignia de OpenAI, Anthropic o Google, es de pesos abiertos: desarrolladores y empresas externas pueden descargarlo y modificarlo directamente.
Inkling es un sistema de mezcla de expertos con 975.000 millones de parametros totales, aunque solo recurre a una fraccion de ellos, unos 41.000 millones, para cada tarea. Es un diseno habitual que mantiene rapidos y economicos a los modelos muy grandes. Fue entrenado sobre 45 billones de tokens de texto, imagen, audio y video, y razona de forma nativa entre los cuatro, segun los materiales de lanzamiento de la propia compania. Por ahora, sus salidas se limitan a texto, incluido codigo, artefactos con estilo y datos estructurados.
El modelo es la primera prueba publica de Thinking Machines Lab tras ano y medio construyendo infraestructura de IA en gran medida lejos de la vista publica. Parte de ese trabajo ya habia asomado en una vista previa de investigacion de mayo sobre "modelos de interaccion", una IA disenada para escuchar y hablar (e incluso interrumpir) en lugar de detenerse y esperar como los chatbots tipicos. Tambien es una prueba de la apuesta central de la startup: que la IA que las organizaciones pueden adaptar por si mismas superara a los modelos de talla unica que venden hoy los grandes laboratorios.
¿Que hace distinto a Inkling?
Inkling esta disenado para dar respuestas calibradas, incluida la senalizacion de la incertidumbre en lugar de adivinar, y permite a los usuarios subir o bajar el "esfuerzo de razonamiento" cuando quieren cambiar precision por velocidad. En un benchmark, segun la compania, Inkling usa un tercio de los tokens que necesita el Nemotron 3 Ultra de NVIDIA, su modelo de pesos abiertos de ultima generacion, para alcanzar el mismo rendimiento en programacion.
Thinking Machines no afirma que Inkling sea el mejor de su clase. Su ultima publicacion en el blog senala de forma explicita que Inkling "no es el modelo mas potente disponible hoy, abierto o cerrado". Lo que evidentemente busca, en cambio, es un rendimiento parejo y bien equilibrado.
Eso plantea la pregunta de a quien, dentro del mercado empresarial que apunta, se dirige realmente este producto. Por ahora, Thinking Machines comercializa Inkling menos como un producto terminado que como un punto de partida, algo para que las organizaciones lo ajusten por si mismas a traves de Tinker, la plataforma de personalizacion de modelos de la compania. Esto tambien significa que son los clientes, y no Thinking Machines, los responsables de asegurar que sus personalizaciones sean seguras. (Ajustar un modelo requiere talento serio en aprendizaje automatico.)
OpenAI, Anthropic y Google adoptaron un enfoque muy distinto con ChatGPT, Claude y Gemini, respectivamente, todos construidos primero para competir como chatbots de proposito general, con funciones agenticas y autonomas agregadas encima.
¿Por que crece el argumento contra los modelos cerrados?
Una publicacion difundida por Thinking Machines la semana pasada apuntaba claramente a servir de telon de fondo para este lanzamiento. La IA entrenada de forma centralizada por una sola compania y luego fijada en piedra, argumento la empresa en ese texto, rinde por debajo de la IA que las organizaciones moldean por si mismas, porque gran parte de la experticia es especifica de las personas que la poseen.
Otros argumentos contra los modelos cerrados estan ganando fuerza. En una publicacion del domingo, el director ejecutivo de Microsoft, Satya Nadella, cuya compania ha invertido miles de millones tanto en OpenAI como en Anthropic, advirtio que las empresas que usan modelos de IA propietarios pagan dos veces: una en costos de suscripcion, y otra al entregar el conocimiento del negocio incrustado en sus prompts y correcciones, que puede absorberse en futuras versiones del modelo.
El director ejecutivo de Hugging Face, Clem Delangue, hizo una prediccion similar en conversacion con TechCrunch la semana pasada. Los modelos de frontera, dijo, quedaran cada vez mas reservados para la experimentacion y las tareas de alto valor, mientras que la mayor parte del trabajo de IA en produccion se desplazara a alternativas privadas o de codigo abierto, exactamente la division sobre la que Thinking Machines esta construyendo.
¿Que evidencia respalda su apuesta?
El argumento mas claro a favor del enfoque de Thinking Machines vino de un proyecto reciente con Bridgewater Associates, el fondo de cobertura mas grande del mundo (que, cabe aclarar, no es inversor de Thinking Machines). Investigadores de ambas companias tomaron un modelo de codigo abierto ya existente y lo entrenaron ademas sobre la experticia financiera propia de Bridgewater. El resultado habria obtenido 84,7% en pruebas de razonamiento financiero, superando a los principales modelos propietarios, con un costo de operacion cercano a un catorceavo, aunque esos resultados provienen de la evaluacion de las dos companias, no de una independiente.
De cualquier modo, Thinking Machines destaca la rapidez con que llego hasta aca. OpenAI tardo cerca de cinco anos en llevar su tecnologia al mercado y mostrar ingresos, y Anthropic alrededor de tres. Thinking Machines dice haberlo hecho en unos nueve meses.
Algunos se preguntaran si Inkling fue entrenado sobre salidas de modelos de la competencia, una practica conocida como destilacion que ha generado escrutinio en toda la industria. La respuesta corta, segun los materiales de la propia compania, es que en parte si. Thinking Machines preentreno Inkling desde cero, pero afirma que uso otros modelos de pesos abiertos, incluido Kimi K2.5 de Moonshot AI, para ayudar a generar parte de sus datos iniciales de posentrenamiento antes de que el aprendizaje por refuerzo a gran escala tomara el control. El proximo modelo, insiste la compania, usara un posentrenamiento totalmente autocontenido.
En el frente de los costos, Thinking Machines ha sido mas reservada. Cerro una alianza con NVIDIA en marzo para desplegar un gigavatio de capacidad de computo Vera Rubin y entreno Inkling por completo en los sistemas GB300 NVL72 de NVIDIA, pero no ha dicho como planea cubrir esos costos. Los ingresos, segun la mayoria de las versiones, no han sido una prioridad. (Se dijo que una ronda de financiamiento de 50.000 millones de dolares se estaba concretando en noviembre, pero se estanco en enero; la compania se ha negado a hablar de su panorama de fondos desde entonces.)
Una pregunta relacionada es si el gasto de Thinking Machines llegara alguna vez a la escala de OpenAI o Anthropic, o si su enfoque orientado a la eficiencia hace que la economia luzca distinta. Dicho de otro modo, la apuesta de la compania podria ser menos que terminara gastando como sus rivales mas grandes que, directamente, que no necesitara hacerlo, porque una vez que los pesos son publicos, nada obliga a quien los descargue a pagarle a Thinking Machines por ejecutarlos, a diferencia del acceso medido que venden OpenAI y Anthropic. Es en Tinker, no en el modelo en si, donde la compania tiene que generar sus ingresos, via entrenamiento, ajuste fino y, ahora, una tajada del ecosistema de hospedaje construido a su alrededor.
La dotacion, al menos, luce mas asentada. Thinking Machines emplea ahora a cerca de 200 personas, por encima de los niveles reportados tras una ola de salidas a comienzos de ano, incluidos dos cofundadores que se fueron a OpenAI en enero.
Thinking Machines, por su parte, no parece interesada en amplificar los movimientos individuales como hace buena parte de la industria. Segun una fuente dentro de la compania, su cultura, por diseno, favorece la continuidad por sobre la dependencia de una sola personalidad. Tiene sentido: es menos un traspie cuando alguien cambia de equipo si nunca se le puso en un pedestal. Tambien es algo notable de sostener para una empresa, dado cuanto de su propia historia sigue asociado al nombre de su ahora famosa cofundadora, lo haya planeado ella o no.
