Microsoft presentó el lunes nuevas funciones de seguridad para proteger a las empresas de la amenaza creciente de los agentes de IA. El lanzamiento llega mientras la compañía sigue advirtiendo a las empresas sobre los riesgos de la IA y de los agentes, informó TechCrunch.
La novedad más llamativa es Guardian Agents, una función pensada para vigilar a los agentes de IA que usa una empresa. Forma parte de Project Perception, un producto que Microsoft presentó en junio.
De los hackers externos al enemigo en casa
Project Perception fue la respuesta de Microsoft a modelos de hackeo potentes como Mythos y Fable, de Anthropic, y a Daybreak, el sistema de OpenAI que busca vulnerabilidades de seguridad. En su versión original traía tres clases de agentes. Un "equipo rojo" que atacaba como un hacker, un "equipo azul" que detectaba al rojo y evaluaba las vulnerabilidades que encontraba, y un "equipo verde" encargado de corregirlas.
El producto se diseñó bajo el supuesto de que los hackers de IA llegarían desde fuera de la empresa. En las últimas semanas, sin embargo, el CEO de Microsoft, Satya Nadella, ha advertido que el enemigo puede ser el mismo agente que la empresa desplegó y por el que paga, igual que un empleado humano desleal. En seguridad eso se conoce como "amenaza interna".
A comienzos de octubre, en su blog personal, Nadella escribió que llegó la hora de dejar de confiar en los proveedores de modelos de IA, aunque ofrezcan garantías de seguridad para sus productos de agentes. Quiere que las empresas implementen sistemas separados, que no controlen los laboratorios de IA, para vigilar y controlar a los agentes que lanzan esos productos.
"¡Estamos desplegando estos sistemas y modelos agénticos complejos, con acceso a nuestros datos más sensibles y dándoles la capacidad de tomar acciones críticas en nuestro nombre!", escribió. "Simplemente no podemos externalizar la responsabilidad de lo que la inteligencia hace en nuestro nombre. Las garantías de un proveedor de modelos no nos liberan de esa responsabilidad. [...] En otras palabras, necesitamos separar el suministro de inteligencia de la autoridad sobre ella."
¿Qué dijo Microsoft de los modelos de frontera?
Al anunciar Guardian Agents, la jefa del negocio de seguridad de Microsoft, Hayete Gallot, fue todavía más directa.
"Lamentablemente, los modelos de frontera, sin importar su origen, no son confiables", escribió.
Gallot aclaró que no se trata de que sean maliciosos o fáciles de hackear. El problema es que son impredecibles. Se entrenaron para cumplir tareas, no para seguir "normas o criterio de la organización". Además, muchas veces reciben las llaves del reino, con acceso a datos y herramientas que podrían causar daños serios.
La solución de Microsoft es a la vez sorprendente e interesada, según TechCrunch. Sorprendente porque Microsoft es muy cercana a OpenAI y a Anthropic y tiene inversiones en ambas. OpenAI es además uno de sus mayores clientes de nube, y Microsoft tiene su propio laboratorio de modelos de IA. O sea, siembra desconfianza contra parte de sus propios intereses comerciales.
Interesada porque Microsoft quiere que las empresas le compren a ella, el proveedor de nube, los productos de seguridad para agentes, y no a Anthropic ni a OpenAI. Más allá del conflicto de intereses, TechCrunch considera que la lógica se sostiene. El software que vigila el comportamiento de los agentes debería ser independiente de quien los suministra, igual que un auditor debe ser independiente de la organización que audita.
O, en palabras de Nadella, "necesitamos separar el suministro de inteligencia de la autoridad sobre ella".
Las otras funciones nuevas
Microsoft busca aprovechar ese negocio por varios frentes. Además de Guardian Agents, sumó a Microsoft Defender una función que detecta hasta 60 tipos de agentes que los empleados llevan al trabajo, entre ellos Claude Code, Codex y OpenClaw. También agregó funciones que limitan el acceso de los agentes a datos y sistemas y que ajustan sus permisos de forma dinámica según la tarea, incluida la exigencia de aprobación humana si un agente parece estar tomando decisiones riesgosas.
La idea de los agentes como empleados internos poco confiables se está instalando en toda la industria.
Microsoft fue miembro fundador de la nueva Open Agent Safety Platform de Nvidia, que sumó el apoyo de más de 100 empresas tecnológicas. La plataforma aísla a los agentes en entornos seguros y puede vigilar y frenar su comportamiento desde el hardware, como una especie de interruptor de emergencia. Antes, Microsoft había anunciado los nuevos PC Surface Laptop Ultra pensados para agentes, que corren con chips de Nvidia y traen controles y seguridad para agentes de fábrica.
