Hasta ahora, cuando un agente de Salesforce tenía que razonar una tarea larga, la pregunta salía de la casa y se la respondía Claude o ChatGPT. Eso cambia con Koa, el modelo que la empresa presentó esta semana en Dreamforce, su conferencia anual. Es el primer modelo de razonamiento propio de Salesforce y está construido sobre Nemotron, el modelo de pesos abiertos de Nvidia. Las dos compañías trabajaron juntas en el post-entrenamiento para que rindiera en tareas de venta, marketing y atención de clientes.
Koa muestra hasta qué punto lo que pide el mundo corporativo se está separando de lo que ofrecen los laboratorios de frontera. Los laboratorios propietarios prefieren que las empresas suban archivos, código, instrucciones y retroalimentación directo a sus modelos y agentes, y que gasten millones en el proceso.
Qué le ofrece Salesforce a sus clientes
Con este modelo, la compañía pone sobre la mesa una lista concreta.
- Una alternativa de pesos abiertos frente a los modelos de frontera cerrados
- Un modelo entrenado para hacer tareas de trabajo específicas, en vez de resolver problemas matemáticos imposibles
- Uno que no ha ingerido ningún dato real de clientes y que por lo tanto no puede filtrarlo a terceros
- Un modelo que ayuda a bajar el gasto en IA, porque usa menos tokens para hacer el mismo trabajo
- Uno que se puede enrutar de forma automática a través de una pasarela de IA, según lo que se necesite
- Un modelo que respeta todos los requisitos de datos y de seguridad que el cliente ya tiene dentro de Salesforce
Koa se ofrece como alternativa a los otros modelos disponibles en Agentforce, la plataforma donde los clientes de Salesforce arman agentes para tareas repetitivas como responder consultas de servicio al cliente o agendar citas.
¿Por qué no lo habían hecho antes?
"Hemos construido muchos modelos de lenguaje chicos, específicos de tarea, que son parte del portafolio de Agentforce", dijo a TechCrunch Jayesh Govindarajan, vicepresidente ejecutivo de Salesforce AI. "Pero para el razonamiento siempre habíamos dependido de los proveedores de modelos de frontera. Hasta ahora."
Antes de Koa, si un agente necesitaba razonar una tarea de varios pasos o de larga duración, esas instrucciones se enrutaban hacia un modelo de frontera como Claude o ChatGPT a través de la pasarela de IA de Agentforce, el sistema que decide qué modelo atiende cada solicitud.
La razón de la espera, según Govindarajan, estaba en la base. "Una de las razones por las que no habíamos hecho esto antes, entrenar nuestro propio modelo de frontera de grado empresarial, siempre quisimos hacerlo, pero el desafío siempre fue la falta de un modelo base preentrenado desde el cual partir. Hasta que apareció Nemotron, no había un modelo preentrenado soberano estadounidense que estuviera disponible, uno, y dos, que fuera estado del arte, y, tres, que tuviera una procedencia de datos clara. No tenemos idea sobre qué entrena Qwen", dijo, en referencia al modelo chino de pesos abiertos de Alibaba.
Clientes enojados que nunca existieron
El post-entrenamiento consiste en llevar un sistema de propósito general a otro que maneja el conocimiento de ventas y de soporte. Para eso, Salesforce y Nvidia no usaron ningún dato real de los clientes de Salesforce. Fabricaron datos sintéticos que imitaban los patrones de esos clientes.
"En realidad simulamos un entorno de servicio al cliente con un profesional de servicio al cliente como persona, incluidos clientes furiosos que llaman al centro de atención, hasta un profesional de ventas que está tratando de cerrar un negocio", describió Govindarajan.
¿Reemplaza a Claude y a ChatGPT?
La apuesta es que Koa haga mejor las tareas que los clientes de Salesforce le encargan a un agente, y que salga más barato en tokens quemados que mandar ese mismo trabajo a Claude o a ChatGPT.
Con Nemotron "tenemos una arquitectura única para que la inferencia sea eficiente en tokens", dijo a TechCrunch Kari Ann Briski, vicepresidenta de software de IA generativa para empresas en Nvidia. "Es algo así como la tríada de cosas que necesitas tener, IA soberana, tiempo hasta el primer token, razonamiento eficiente, para la economía de tokens de todo esto."
Salesforce tampoco abandona a Anthropic ni a OpenAI. Acaba de anunciar una alianza con Anthropic llamada ClaudeForce, que permite a las empresas usar Claude como interfaz de IA mientras sus datos se quedan en el sistema de registros de Salesforce, protegidos por su infraestructura.
