Google publicó ML Drift, un motor de cómputo GPU de código abierto para acelerar la inferencia de modelos de IA en dispositivos que van desde teléfonos hasta computadores de escritorio. Lo desarrolló el equipo de Google AI Edge y promete mejoras de rendimiento frente a las soluciones actuales, informó Hackster.io el 14 de octubre de 2026.

Correr modelos de IA de forma local tiene ventajas frente a depender de servicios en la nube. Mejora la privacidad, elimina la necesidad de conexión a internet y reduce la latencia. Pero lograr que esos modelos funcionen bien en hardware de consumo no siempre es fácil, sobre todo cuando un desarrollador tiene que soportar equipos con distintas GPU, drivers e interfaces de software.

ML Drift es el sucesor del delegado GPU que usaba TensorFlow Lite. Hoy es el motor de aceleración por GPU del framework LiteRT de Google, aunque también se puede usar de forma independiente a través de sus API en C++. El software se publica bajo licencia Apache 2.0.

¿Qué problema resuelve ML Drift?

Fuera de un centro de datos, uno de los mayores obstáculos para acelerar con GPU es que cada plataforma usa una interfaz de programación distinta:

  • Los dispositivos Android pueden depender de OpenCL u OpenGL ES.
  • Los equipos de Apple usan Metal.
  • Los navegadores web soportan cada vez más WebGPU, que también corre de forma nativa en Windows y Linux mediante Dawn, la implementación de Google.

ML Drift aborda el problema con una arquitectura de cómputo unificada que oculta buena parte de esas diferencias de hardware. Los desarrolladores escriben las operaciones de GPU con un framework común, en vez de mantener una implementación separada para cada plataforma.

Virtualización de tensores y tensores de cinco dimensiones

Una pieza central de la arquitectura es una técnica llamada virtualización de tensores, que separa la representación lógica de un tensor de la forma en que se almacena físicamente en la GPU. Junto con shaders generados de forma dinámica y una gestión de memoria optimizada, eso le permite a ML Drift adaptar las cargas de trabajo a distintos equipos sin agregar una sobrecarga relevante en tiempo de ejecución.

El motor también suma soporte nativo para tensores de cinco dimensiones, lo que abre la puerta a cargas más complejas, como redes convolucionales 3D y modelos que procesan información espacial o temporal.

¿Para qué tipo de modelos sirve?

ML Drift no se limita a unos pocos casos de uso. Google incorporó optimizaciones específicas para visión por computador, audio y procesamiento de profundidad, y para modelos de lenguaje grandes, con estrategias de ejecución separadas para procesar el prompt de entrada y para generar los tokens de salida.

Entre esas optimizaciones hay distribuciones de memoria especializadas, un mejor manejo de la caché KV y técnicas de cuantización que reducen el tráfico de memoria. En las pruebas de Google, ML Drift logró hasta 12% menos de uso de memoria que frameworks de la competencia.

Cómo migrar desde TensorFlow Lite

Google publicó el código fuente de ML Drift en GitHub, junto con ejemplos para empezar con OpenCL y WebGPU. El repositorio incluye documentación para implementar operaciones GPU propias.

Con este lanzamiento terminó el desarrollo de funciones nuevas para el antiguo delegado GPU de TensorFlow Lite, así que Google recomienda migrar al nuevo motor. Se mantuvo la compatibilidad hacia atrás, por lo que la actualización no debería ser complicada.