Google está construyendo un nuevo chip de servidor, conocido internamente como Frozen v2, que incorpora la arquitectura del modelo de IA Gemini directamente en el silicio. Según fuentes citadas por The Information, el chip podría ser entre 6 y 10 veces más eficiente que los actuales TPU de Google al momento de entregar respuestas de IA.
La compañía planea desplegarlo a partir de 2028 y lo considera una prueba de concepto para chips especializados, con un volumen de producción menor al de su línea TPU.
¿Qué hace distinto a Frozen v2?
A diferencia de los TPU, que funcionan con muchos modelos, Frozen v2 tiene partes de la estructura del modelo Gemini integradas en el propio hardware. El nombre sigue la misma lógica que "congelar" parámetros en un modelo de IA, cuando se fijan los valores para que dejen de cambiar. Con Frozen v2, una porción del modelo queda congelada de forma permanente dentro del chip, lo que reduce pasos de cómputo y acelera las respuestas.
La idea original vino de Jeff Dean, científico jefe de Google DeepMind. Su primer diseño Frozen proponía grabar los pesos del modelo directamente en el chip. Los pesos son los ajustes específicos que determinan cómo responde un modelo a las consultas. Google descartó ese enfoque porque el chip solo habría servido para una única versión de Gemini y habría quedado obsoleto demasiado rápido.
Frozen v2 toma un camino más flexible: graba la arquitectura del modelo en lugar de los pesos, es decir, el plano base y no los parámetros afinados. Así, todavía se pueden cargar pesos nuevos sobre el chip. Cuánto de la arquitectura quedará finalmente fijada por hardware aún no está decidido, según The Information.
Exprimir mejores márgenes en la inferencia de IA
Como el chip solo funciona mientras Google mantenga la misma arquitectura de modelo, es probable que no llegue a ser un producto para clientes externos. La empresa ya arrienda sus TPU a Meta, los ofrece a clientes de nube y los posiciona a través de su programa "TPU@Premises" como alternativa a Nvidia, con la meta interna de capturar el 10% de los ingresos anuales de Nvidia. Frozen v2, en cambio, apunta a aliviar la presión interna de Google sobre su propia capacidad de cómputo para IA.
Si el chip cumple lo que promete, igual podría transformarse en una ventaja competitiva importante. En el negocio de la IA, qué tan bien optimiza cada empresa los costos de inferencia define cada vez más sus márgenes. Google podría usar Frozen v2 para correr modelos potentes a precios más bajos y quitarle mercado a OpenAI y Anthropic.
¿En qué se diferencia de una GPU o un TPU?
Vale ubicar a Frozen v2 en el mapa del hardware de IA. Una GPU, como las de Nvidia, es flexible y corre casi cualquier modelo. Un TPU está optimizado para cargas de IA, pero sigue siendo de propósito general dentro de ese dominio. Frozen v2 va un paso más allá: es un chip atado a una arquitectura específica de modelo, lo que sacrifica versatilidad a cambio de eficiencia. Esa especialización explica tanto la ganancia estimada de 6 a 10 veces como la razón por la que Google no planea venderlo afuera.
