La pregunta es profundamente personal, porque cuando se compara la nube contra cualquier alternativa local todo termina reducido a lo mismo: cuánto está dispuesto a pagar cada uno por su independencia. La opción local puede salir a cuenta en el largo plazo o no amortizar jamás la inversión inicial. Lo que sí es casi seguro es que va a costar tiempo de configuración y de mantención del sistema propio. A cambio se obtiene autonomía.

Con los modelos de lenguaje, esa autonomía solía pagarse con una pérdida considerable de rendimiento. Pero como señala Anurag Singh en XDA Developers, un modelo menos capaz puede permitir avanzar más, dependiendo del flujo de trabajo de cada quien.

¿Por qué dejó el plan de 20 dólares?

Singh estaba en el plan de 20 dólares mensuales de Anthropic, unos 240 dólares al año, cuando decidió que el esfuerzo no valía la pena. Chocaba con límites de uso que le resultaban intolerables en ese nivel, pero tampoco lograba justificar el salto a un tramo de acceso superior.

Con ese diagnóstico probó un modelo de lenguaje local, pese a que todo el hardware disponible era un MacBook Air M5 con 16 GB de memoria, lejos de una estación de trabajo potente. Su flujo de trabajo no consiste en pedirle al modelo que escriba el proyecto completo, sino en usarlo para encontrar dónde se equivocó, algo así como un patito de goma electrónico que responde. Para ese caso de uso, Qwen2.5 Coder 14B resultó más que adecuado.

¿Qué se pierde frente a Claude?

El modelo local no logra entender todas las piezas móviles de un proyecto grande tan bien como Claude, algo esperable considerando su antigüedad y la cantidad de memoria con la que tiene que trabajar. Pero, según Singh, ese trabajo de comprensión global le corresponde a él. Él es el programador y el modelo es apenas el asistente.

Para ese reparto de tareas, la ecuación cambia: puede aprovechar el hardware que ya tiene y contar con el modelo integrado directamente en VS Code, lo que le permite un ritmo de trabajo veloz sin depender de una conexión ni de una cuota mensual.

¿Conviene replicarlo?

Los resultados van a variar según el caso. Los tres factores que definen la decisión son concretos: el costo recurrente en dólares del servicio en la nube, la memoria disponible en el equipo propio, que en este caso fueron 16 GB unificados, y el tamaño del modelo elegido, que aquí fueron 14 mil millones de parámetros.

Para quienes quieran entrar al mundo de los modelos de lenguaje ejecutados localmente, existen maneras fáciles de empezar sin dedicarle el día entero a la instalación. Y dependiendo del hardware con el que se cuente, quizás convenga sumar otra tarjeta gráfica al equipo.