OpenAI Astra: el primer modelo con capacidad cíber crítica

OpenAI anunció el martes que su próximo modelo de inteligencia artificial, Astra, es el primero en alcanzar el umbral que la compañía denomina capacidades cíber "críticas". La empresa dice que planea liberar públicamente una versión de Astra "pronto", pero que al lanzamiento las capacidades cíber avanzadas del modelo estarán disponibles solo para socios seleccionados de su programa de acceso anticipado Daybreak Blue.

En una reunión informativa con periodistas, los responsables de seguridad de OpenAI señalaron que la compañía concluyó que Astra alcanza las capacidades críticas de ciberseguridad descritas en su marco de preparación, que fija umbrales y protocolos para cuando sus modelos representan nuevos niveles de riesgo.

Según la empresa, un modelo alcanza el umbral cíber crítico cuando puede encontrar y explotar de manera independiente vulnerabilidades previamente desconocidas en software del mundo real. Los ejecutivos indicaron que se siguió el procedimiento previsto para esta situación, que consiste en detener el desarrollo hasta que se puedan implementar resguardos y medidas de seguridad apropiadas.

¿Qué pasó con la pausa en el entrenamiento?

OpenAI había señalado antes que detuvo algunas cargas de entrenamiento relacionadas con el desarrollo de Astra y de otro modelo futuro durante varias semanas. Los ejecutivos afirman que ese trabajo ya se retomó, tras poner controles adicionales de seguridad. La compañía sostiene que la pausa de varias semanas fue productiva y que ahora tiene confianza en poder liberar Astra de forma amplia y segura.

El anuncio llega mientras Silicon Valley lidia con las capacidades avanzadas de ciberseguridad de los modelos de punta e intenta asegurar a usuarios, legisladores y otras empresas que puede mantenerlas bajo control.

En julio, OpenAI reveló un incidente en el que agentes ejecutando dos de sus modelos explotaron vulnerabilidades en lo que se suponía era un entorno de pruebas aislado, obtuvieron acceso a internet y vulneraron la plataforma de inteligencia artificial de código abierto Hugging Face. La compañía aclara que Astra no fue uno de los modelos involucrados en ese caso.

Otras empresas del sector, como Anthropic y Meta, han revelado incidentes similares en las últimas semanas. El lunes, Anthropic informó que también pausó algunas cargas de entrenamiento mientras endurece sus prácticas de seguridad.

¿Cómo piensan impedir el uso indebido?

OpenAI dice estar implementando un enfoque de varios pasos para limitar que los usuarios cotidianos accedan a las capacidades cíber avanzadas de Astra, entre ellos un nuevo monitor de desalineación. Si alguien le pide a Astra ayuda para encontrar una forma de explotar un sistema de software real, se supone que el modelo debe negarse a responder. La compañía sostiene además que hizo a Astra más resistente a los intentos de jailbreak y que en pruebas rechazó consultas inseguras a una tasa significativamente mayor que los modelos anteriores.

Sin embargo, la propia empresa advierte en una entrada de su blog que el monitor de desalineación puede "ocasionalmente marcar actividad legítima como potencial uso indebido en ciberseguridad o comportamiento no autorizado, lo que lleva a que sea inadvertidamente ralentizada, pausada o detenida". OpenAI señala que la barrera puede activarse en algunos casos incluso cuando el usuario realiza actividades que no parecen relacionadas con ciberseguridad. Cuando eso ocurre, a los usuarios de ChatGPT y Codex se les puede pedir que revisen la acción del modelo antes de continuar.

¿Quiénes tendrán la versión sin restricciones?

Los socios del programa Daybreak, que incluye a proveedores de infraestructura digital como Cisco, Cloudflare y Palo Alto Networks, obtendrán acceso anticipado a una versión menos restringida de Astra, con capacidades cíber más robustas. El objetivo declarado del programa es asegurar que esas compañías puedan usar modelos avanzados para endurecer sus defensas antes de que modelos con capacidades similares queden ampliamente disponibles. Los ejecutivos agregaron que la empresa ha trabajado de cerca con socios gubernamentales para que conozcan las habilidades cíber de Astra y puedan acceder a ellas.

Astra no solo es capaz de encontrar vulnerabilidades de software novedosas y desarrollar formas de explotarlas, sino también de encadenar múltiples exploits, una técnica que se usa para penetrar cada vez más profundo en un sistema objetivo y obtener accesos que no se alcanzarían con una sola vulnerabilidad.

¿Qué tan por delante está de los demás?

Según cifras entregadas por OpenAI, Astra supera a modelos líderes de la industria como GPT-5.6 Sol y Mythos, de Anthropic, en bancos de pruebas de ciberseguridad como ExploitBench, donde Astra obtuvo 100%.

Estas capacidades están en línea general con el aumento de habilidades de hacking en modelos de inteligencia artificial que OpenAI y Anthropic vienen pronosticando desde hace meses. En abril, por ejemplo, Anthropic subrayó que Mythos Preview era capaz de desarrollar cadenas de exploits de manera autónoma.

Mientras las industrias de inteligencia artificial y ciberseguridad intentan adaptarse, muchos expertos han insistido en que las defensas digitales fundamentales y las buenas prácticas de larga data siguen siendo efectivas. El problema es que la inteligencia artificial pone en riesgo aún más urgente a las organizaciones y sistemas que no han implementado del todo esas protecciones.

Qué significa esto en la región

Para equipos de seguridad en Chile y Latinoamérica, el punto operativo no es el 100% en ExploitBench sino la advertencia sobre falsos positivos. Un monitor que puede ralentizar, pausar o detener una tarea legítima afecta directamente a quien hace pruebas de penetración autorizadas o análisis forense con estas herramientas, que es exactamente el trabajo que un equipo defensivo necesita hacer más rápido, no más lento.

El segundo punto es de calendario. El programa Daybreak Blue reparte ventaja defensiva anticipada a proveedores globales de infraestructura, y las organizaciones que dependen de ellos la heredan indirectamente. Las que operan infraestructura propia, en cambio, quedan del otro lado de esa ventana: el consenso de los especialistas citados es que la higiene básica de seguridad sigue siendo la defensa que funciona, y que el riesgo se concentra en quienes nunca la completaron.