Tufa Labs comprimió 1 GB de texto de Wikipedia a 105,39 MB, sin pérdida y sin modelos de compresión armados a mano, según un artículo de investigación del laboratorio. Su compresor, tufazip, usa como predictor un modelo Transformer de 163 millones de parámetros, informó Tom's Hardware.
Es el resultado más pequeño del Large Text Compression Benchmark entre las entradas que usan una red neuronal como único predictor. La contracara es el costo. Comprimir o descomprimir el archivo les toma cerca de una semana a dos GPU Nvidia B200.
El laboratorio lo anunció el 19 de noviembre de 2026.
"Redujimos 1 GB de Wikipedia a 105,39 MB, sin pérdida. Presentamos tufazip, la mejor entrada del Large Text Compression Benchmark que usa una red neuronal como único predictor. Todo lo que está por encima mezcla un transformer con modelos hechos a mano", escribió Tufa Labs.
¿Cómo funciona tufazip?
El investigador Tommy He construyó tufazip. El paquete completo, que mide 105,39 MB tras la optimización, incluye un pequeño modelo inicial preentrenado de 4,33 MB, necesario para desempacar el archivo. Ese modelo está guardado con baja precisión (cuantizado) para ahorrar espacio.
El modelo completo es un Transformer de 12 capas, o sea que cada predicción pasa por 12 etapas. El modelo inicial guarda solo dos etapas ya entrenadas y las copia de ida y vuelta para llenar las 12 cuando el modelo completo se levanta en memoria. Cada copia sigue aprendiendo por su cuenta.
No funciona como un chatbot tradicional ni como una IA en la nube. Es un modelo de lenguaje autocontenido que aprende sobre la marcha. La compresión es sin pérdida, así que no hay riesgo de perder datos en el proceso, y por eso las actualizaciones del predictor tienen que ser "totalmente deterministas".
Entrenamiento en dos etapas
El modelo inicial, de 34 millones de parámetros, se entrena antes de que empiece la compresión, fuera de línea. Después, el modelo completo aprende en línea, prediciendo cada token y entrenándose con él. El lado que descomprime repite los mismos pasos, de modo que el modelo se reconstruye junto con el texto.
Por eso el tamaño total tiene que incluir, además del texto comprimido, solo el programa de desempaque y los archivos que necesita, entre ellos el modelo inicial. El modelo completo ya entrenado no entra en la cuenta.
Ningún modelo de compresión tradicional hecho a mano lo asiste. Según Tufa Labs, eso lo separa de las 12 entradas que hoy están por encima en el ranking, que mezclan un Transformer con modelos hechos a mano.
Su primera versión, que solo aprendía en línea, quedó segunda cuando se envió a comienzos de septiembre. La versión de 105,39 MB estaba en el puesto 13 en la actualización del benchmark del 19 de noviembre. El benchmark es solo de texto, no de archivos multimedia.
Siete días de dos B200 por pasada
Tufazip es un proyecto de investigación, no un producto, y lo confirma lo que se necesita para correrlo. En la máquina de prueba, con dos GPU Nvidia B200 y dos CPU Intel Xeon Platinum 8570, la versión de 105,39 MB tardó 631.548 segundos en comprimir y 645.748 segundos en descomprimir. Son cerca de 7,3 y 7,5 días, sin contar el entrenamiento fuera de línea del modelo inicial.
La primera versión, que aprendía solo en línea y llegó a 105,98 MB, tardó 647.595 y 630.136 segundos. Sus GPU llegaron a un máximo de 43,37 GiB de VRAM entre las dos. El uso total de memoria, contando las GPU, tocó cerca de 68.525 MiB al comprimir y 73.748 MiB al descomprimir.
| Compresor | Tamaño total (MB) | Hardware | Compresión | Descompresión |
|---|---|---|---|---|
| cmix-neif 2.0 | 89,35 | AMD Epyc 7B13, 4 núcleos | 49,2 horas | 49,3 horas |
| tufazip v2 | 105,39 | Dos Nvidia B200 | 7,3 días (sin el entrenamiento previo) | 7,5 días |
| DNA-4 | 105,55 | Nvidia RTX 4090 | 19,8 horas (con entrenamiento) | 2,6 horas |
| NNCP v3.2 | 107,26 | Nvidia RTX 3090 | 67,2 horas | 66,3 horas |
Más grande no siempre es mejor
El experimento muestra que un vocabulario más chico puede ayudar. Un tokenizador de 4.000 palabras le ganó a los de 8.000 y 16.000. Darle tokens propios al marcado XML de Wikipedia empeoró la compresión.
Con el tamaño del modelo pasa algo parecido. Uno de 267 millones de parámetros rindió un poco peor que uno de 188 millones con este conjunto de datos. Con una versión más chica del archivo, de 100 MB, las mejoras se estancaron cerca de los 77 millones de parámetros.
Una corrida que partió de un modelo inicial más grande, de seis capas, predijo mejor y dejó la carga en solo 99,17 MB. Sus pesos más pesados, eso sí, hicieron que el archivo total quedara más grande que el de la corrida solo en línea.
Mejorar la compresión puede salir caro. Ampliar la ventana de texto ya procesado que se usa para entrenamiento extra, de 15 a 35 millones de tokens, redujo la carga apenas 1,21% a cambio de 40% más de cómputo.
He plantea ese intercambio de las seis capas como la próxima pregunta de investigación, que es cuánta calidad de predicción puede conservar un modelo más chico. Para este benchmark, el punto óptimo es un equilibrio entre la calidad de la predicción y el tamaño del modelo.




