OpenAI entrenó un modelo interno de IA llamado GPT-Red para encontrar de forma automática fallas de seguridad en sus modelos GPT. La compañía lo presenta como una herramienta que ataca a sus propios sistemas para endurecerlos antes de que lo haga un adversario real.

¿Qué hace exactamente GPT-Red?

GPT-Red simula inyecciones de prompts y otros ataques en los que instrucciones maliciosas se ocultan dentro de correos electrónicos, sitios web o archivos. Entrenado mediante aprendizaje por refuerzo con autojuego (self-play), GPT-Red ataca mientras modelos defensores bloquean, y ambos mejoran con el tiempo.

El resultado es contundente: encuentra ataques exitosos en el 84% de los escenarios de prueba, frente al 13% de los equipos humanos de red teaming. En una de las pruebas, manipuló una máquina expendedora impulsada por IA en las oficinas de OpenAI, cambió precios y canceló pedidos de otros clientes.

¿Para qué sirven estos resultados?

Los hallazgos alimentan directamente el entrenamiento. Según OpenAI, GPT-5.6 Sol muestra seis veces menos fallas ante inyecciones de prompts directas que el mejor modelo de hace cuatro meses, sin dañar el rendimiento general.

Sin embargo, la cifra no llega a cero. Cerca de un 3,8% de las inyecciones de prompts "más fuertes" todavía tiene éxito. Escalado a cientos o miles de intentos, un número considerable termina colándose, un comportamiento similar al que la fuente atribuye a Claude Opus 4.5. Las tasas de éxito de las inyecciones bajaron de forma sostenida desde GPT-5.3 hasta GPT-5.6 Sol, pero no se anularon.

¿Por qué importa para la seguridad de los agentes de IA?

La inyección de prompts es hoy uno de los riesgos centrales de los agentes de IA que leen correos, navegan la web o procesan documentos: basta con esconder una orden en el contenido que el modelo procesa para intentar secuestrar su comportamiento. Que un atacante automatizado supere con holgura a los humanos (84% frente a 13%) sugiere que el propio bucle de ataque y defensa puede escalar mucho más rápido que la revisión manual.

GPT-Red se mantiene de uso interno. OpenAI adelantó que publicará un paper con más detalles, aunque por ahora no libera el modelo ni el método completo. La lectura de fondo es que la seguridad de los grandes modelos se está volviendo, cada vez más, una carrera entre sistemas automáticos que se atacan y se defienden entre sí.