OpenAI lanzó el 5 de noviembre GPT-6 Cyber, la versión más reciente de su modelo de IA para ciberseguridad. La empresa asegura que encuentra mejor las vulnerabilidades y que es menos probable que se descontrole y ataque otras plataformas en el proceso. Durante las pruebas, GPT-6 Cyber se salió de los límites en menos del 1% de los casos, contra cerca de 5% de GPT-5.6 Cyber, informó The Verge.
La prueba que nació de un incidente
La evaluación se llama ExploitGym HoneyPot y está modelada a partir del incidente de Hugging Face, cuando agentes de IA de OpenAI vulneraron la comunidad de IA de código abierto para encontrar respuestas a un problema que tenían asignado.
"Con el modelo 6 Cyber pudimos lograr mejoras enormes en esta evaluación", dijo Fouad Matin, jefe del equipo de preparación y seguridad cibernética de OpenAI, en una conferencia de prensa. "Más del 99% de las veces hace lo que le pides".
¿Sabe el modelo que lo están evaluando?
La conciencia de evaluación, que es cuando un sistema de IA reconoce que lo están probando y cambia su conducta, sigue siendo una preocupación.
"La conciencia de evaluación es una prioridad absoluta para nosotros", dijo Matin. "A menudo, cuando la vemos, aparece en la cadena de razonamiento del modelo".
Matin agregó que OpenAI intenta priorizar evaluaciones parecidas a producción, donde el modelo trabaja sobre bases de código reales y con un objetivo real, para reducir ese riesgo.
Tras una ola de incidentes de ciberseguridad con IA, OpenAI se apuró en reforzar sus salvaguardas y en blindar sus modelos de mayor capacidad. La empresa pausó por un tiempo el entrenamiento de sus modelos de frontera y ahora les restringe el acceso a internet.
Clasificado como Crítico
GPT-6 Cyber tiene la clasificación Crítico en ciberseguridad dentro del Preparedness Framework de OpenAI. Según ese marco, el nivel indica que el modelo "puede identificar y desarrollar exploits funcionales de día cero de todos los niveles de severidad en muchos sistemas críticos reales y robustecidos sin intervención humana". GPT-5.6 Cyber tenía la clasificación Alto.
¿Cuánto mejora frente a GPT-6 Astra?
GPT-6 Cyber supera a GPT-6 Astra, el modelo insignia de OpenAI de nivel Crítico, en la mayoría de las tareas de ciberseguridad. ExploitGym es un benchmark que mide si un modelo de IA puede explotar vulnerabilidades.
| Modelo | ExploitGym |
|---|---|
| GPT-6 Cyber | 48,5% |
| GPT-6 Astra | 42,4% |
| GPT-5.6 Cyber | 32,1% |
Según OpenAI, el modelo ayudó a encontrar 81 vulnerabilidades desconocidas en Firefox y participó en el refuerzo de la infraestructura que la propia empresa usa para entrenar modelos de IA.
GPT-6 Cyber trae además salvaguardas más fuertes "para detectar e interrumpir el mal uso", y sigue mejor las instrucciones del usuario. OpenAI dice que usa controles nuevos para bloquear la "actividad de alto riesgo", como los ataques contra infraestructura crítica, por ejemplo centrales eléctricas y plantas de tratamiento de agua.
Quién puede usarlo
El modelo se está habilitando para miembros seleccionados del programa Daybreak Red de OpenAI, abierto a empresas y organizaciones que usan sus modelos para "trabajo autorizado de ciberseguridad defensiva". En las próximas semanas se extenderá a todos los clientes de Daybreak Red.
