Una manana de 2019, Adebayo Alonge estaba en una habitacion de hotel en Ciudad del Cabo, listo para demostrar la respuesta de su startup a un problema grave de la salud en Africa: los medicamentos falsificados, que matan a miles de personas en el continente cada ano. El RxScanner es un espectrometro de mano que escanea una pastilla con luz infrarroja y envia su perfil molecular a un modelo de IA conectado a una base de datos farmaceutica. En segundos, la IA identifica el medicamento a partir de ese perfil, o avisa que es falso.

Farmacias de mas de una docena de paises, incluidos Ghana, Kenia, Myanmar y Nigeria, la tierra natal de Alonge, ya usaban el sistema. Pero esa manana en Sudafrica, no funciono. "Quede en shock", cuenta Alonge. El espectrometro se conectaba al modelo, pero el centro de datos estaba a 14.000 kilometros y el ancho de banda era limitado. "Nuestro servidor estaba en Estados Unidos, y solo obtener el resultado de un unico escaneo me tomaba mas de 5 minutos."

Entonces Alonge pidio de inmediato a sus ingenieros que encogieran el modelo a una version mas pequena, de bajo consumo y sin conexion, capaz de correr enteramente en su telefono Android. La produjeron dos horas despues y eso salvo la demostracion. Mas importante aun, ese trabajo dio origen a una nueva version del dispositivo, capaz de autenticar una pastilla en lugares sin banda ancha, sin computadores ni siquiera electricidad confiable. Tambien convirtio a Alonge en un defensor de este tipo de "IA pequena".

Que es la IA pequena

La IA pequena esta muy lejos de los colosales grandes modelos de lenguaje de los paises ricos, de los centros de datos hiperescalados y de las inversiones multimillonarias. Pero para millones de personas es la unica IA que importa, y a menudo la unica disponible. Segun un informe del Banco Mundial de noviembre, solo el 0,7% de los usuarios de internet en los paises mas pobres del mundo ha usado ChatGPT, frente a un cuarto de todos los usuarios en las naciones mas desarrolladas.

"La mayoria discute la IA desde el lado generativo, de los grandes modelos de lenguaje. Pero eso necesita mucho poder de computo, electricidad, datos masivos y gente capacitada para gestionarlo", dijo Ajay Banga, presidente del Banco Mundial, en enero en el Foro Economico Mundial de Davos. "Fuera del mundo desarrollado, salvo quiza India y China, muy pocos paises tienen esa combinacion."

La IA pequena, en cambio, puede entregar servicios utiles, incluso capaces de salvar vidas, en zonas que no tienen nada de eso. En India, donde los planes gubernamentales de IA piden mas desarrollo de modelos pequenos, muchos sistemas ya funcionan para agricultores. Un sistema montado en drones desarrollado por Bala Murugan y colegas del Instituto de Tecnologia de Vellore toma fotos de plantas de anacardo e identifica rapidamente las que tienen manchas que indican enfermedad. Todo el procesamiento ocurre en el propio dron, sin necesidad de un computador en el lugar ni de conexion a un servidor central.

Usando modelos de lenguaje pequenos entrenados para un problema especifico, y a veces corriendo en dispositivos baratos y de bajo consumo, otras implementaciones detectan plagas de hormigas en un vinedo uruguayo, la presencia de mosquitos portadores de malaria en varios paises, y realizan electrocardiogramas desde un dispositivo Arduino en zonas de Brasil que carecen de equipos mas complejos.

"Esta es el area mas importante de la IA hoy", dice Marcelo Jose Rovai, profesor del Instituto de Ingenieria y Sistemas de Informacion de la Universidad Federal de Itajuba, en Brasil, involucrado en los tres proyectos. "Esta creciendo muy rapido."

No hay una definicion estricta de "IA pequena", pero suele usarse el termino para modelos de lenguaje con a lo sumo unos pocos miles de millones de parametros. En comparacion, los modelos de punta pueden superar el billon. Eso es suficientemente pequeno para correr directo en un telefono o en una Raspberry Pi, sin conexion a un centro de datos y usando apenas unos watts, muchas veces alimentados por una bateria o un panel solar.

Como se construye un modelo pequeno

Pese a su bajo peso, estos modelos no son una tecnologia distinta de la de los modelos gigantes, dice Rovai. Muchos se crearon igual que la version movil del escaner de Alonge: mediante "poda", es decir, quitando los parametros que no participaban en la tarea. El resultado es un sistema menos capaz en general, pero muy bueno en el trabajo especifico para el que fue podado.

Otros modelos pequenos se crean por "destilacion": se entrenan para imitar a un modelo grande hasta que su desempeno se acerca al de su "maestro". En otros casos se reduce la precision de un modelo mayor, por ejemplo para que uno pensado para arquitectura de 32 bits corra en disenos de 8 bits. Y cuando la aplicacion sirve para clasificar datos o predecir patrones, como una plaga de hormigas, se entrena desde cero en un dispositivo pequeno, sin derivar de un modelo mayor.

Por que se esta volviendo mas facil

Correr todos estos sistemas especializados es cada vez mas simple, dice Rovai, por dos razones. La primera es que el hardware mejora y gana capacidad mientras consume menos energia. Cada vez mas telefonos pueden correr IA pequena, sobre todo los equipados con unidades de procesamiento neuronal, chips especializados que manejan tareas de IA como el reconocimiento facial. En 2025, algo mas de un tercio de todos los smartphones vendidos en el mundo eran capaces de correr IA generativa, y esa cifra llegara al 45% a fin de este ano, segun la firma de investigacion Counterpoint. Para fines del proximo ano, algo mas de la mitad de los smartphones podra correr un modelo de IA pequena.

La segunda razon es la huella cada vez menor de los modelos de lenguaje. Tanto Gemma 4 de Google DeepMind, lanzado en abril, como Qwen 3.5 de Alibaba son "fantasticos" para IA pequena, dice Rovai. Ambos son de "pesos abiertos", lo que permite a los usuarios ajustar las conexiones entre parametros a su medida. Eso facilita, por ejemplo, "tomar muchos datos de, digamos, la industria lechera y reentrenar el modelo especificamente en eso".

Rovai ilustro estas razones en una videollamada con uno de sus experimentos mas recientes. Sosteniendo un dispositivo, dijo: "Este es el nuevo Arduino UNO Q, un aparato de 50 dolares con un chipset de Qualcomm. Aqui corro un modelo de lenguaje que recoge datos de sensores y los analiza para detectar pequenas pozas de agua donde podrian criarse mosquitos. Consume 3 watts."

Quien impulsa el desarrollo

Convencido de que millones de personas ya se benefician de estas aplicaciones, el Banco Mundial promueve activamente la IA pequena con subvenciones, programas de mentoria, financiamiento, asesoria tecnica y modelos de politica publica favorables a su desarrollo. En Ruanda, por ejemplo, respalda un programa gubernamental para ayudar a hogares de bajos ingresos a conseguir dispositivos capaces de correr IA.

Con todo, nadie afirma que los grandes modelos de lenguaje vayan a desaparecer. Crear una IA generativa capaz de correr en un telefono requiere las ideas de arquitectura, el procesamiento de datos y los resultados de un modelo mayor, dice Rovai. "Necesitamos los modelos grandes para crear estos modelos pequenos."