Max Justicz, director de tecnología y cofundador de la startup Charge Robotics, usó un modelo de OpenAI para encontrar una vulnerabilidad grave que, si se explotaba, permitía a un atacante tomar el control de servidores con Ubuntu, el sistema operativo de código abierto basado en Linux.

Justicz se interesa por la ciberseguridad como aficionado y ya había encontrado antes una vulnerabilidad en el mismo código. Le contó a TechCrunch que dio con este fallo usando GPT 5.6 Sol, lanzado en julio, a través de Daybreak Blue, el programa de OpenAI que da a los defensores de ciberseguridad acceso a sus modelos de frontera.

"Literalmente apunté ChatGPT al mismo código y le dije 'encontré este bug antes, se corrigió hace varios años, por favor encuentra bugs igual de graves o peores', y volvió en dos horas con esto", dijo Justicz. "Es extremadamente enrevesado y difícil de encontrar para una persona, ¡pero funciona!"

Justicz reportó el problema al Proyecto Debian, que mantiene ese software y publicó un parche. No hay evidencia conocida de que se haya explotado. Aun así, la facilidad con que lo encontró sugiere, según TechCrunch, que recién se ve la punta del iceberg de los ataques que hasta un atacante novato puede montar con ayuda de modelos de IA.

"Solo puedo imaginar lo que alguien podría hacer con más tiempo y acceso a modelos menos castrados. Deberíamos esperar que en los próximos meses se encuentren y exploten bugs extremadamente locos", escribió Justicz en un hilo en redes sociales sobre su hallazgo. "Puede que sea obvio para la mayoría acá, pero hoy hay una ventaja enorme en tomar código o un binario que nadie ha auditado y simplemente apuntarle un modelo de IA potente."

¿Qué anunció OpenAI para ciberseguridad?

OpenAI parece haberlo notado. El 5 de noviembre anunció que un nuevo modelo enfocado en ciberseguridad, ChatGPT Cyber, quedará disponible para el nivel más alto de su programa, Daybreak Red, que entrega a investigadores de seguridad ofensiva herramientas para buscar y desarrollar vulnerabilidades.

El día anterior, OpenAI dijo que el mismo modelo se había usado para revisar el kernel de Linux y preparar parches, y que encontró 948 problemas potenciales. La empresa también halló 81 vulnerabilidades "nuevas" en el navegador Firefox.

"Nuestro objetivo es ampliar drásticamente Daybreak y llevar investigación de seguridad avanzada a organizaciones de todos los tamaños, investigadores independientes y mantenedores de código abierto", dijo el laboratorio en un comunicado.

OpenAI insiste en que quienes protegen la infraestructura digital tienen una ventana de tiempo estrecha para actuar antes de que los modelos de IA sean todavía mejores atacando y más fáciles de conseguir. Para los defensores, sin embargo, puede parecer que los laboratorios de frontera desataron una montaña de trabajo nuevo que supera sus recursos. Justicz dijo que gastó en total unos 5.000 dólares en suscripciones y tokens para encontrar varios exploits.

Además del acceso a modelos de Daybreak, OpenAI anunció una iniciativa de 1.000 millones de dólares para apoyar a los profesionales del programa que trabajan en infraestructura crítica, como la red eléctrica o los sistemas de agua.

Las críticas a Daybreak

El programa también tiene críticos. Justicz señala que OpenAI parece haber limitado hace poco a Daybreak Blue para que sea menos útil a la hora de encontrar vulnerabilidades.

Por un lado, puede ser bueno restringir el acceso a posibles atacantes. Justicz contó que para entrar al programa solo tuvo que subir una foto de su licencia de conducir. Por otro, los profesionales de ciberseguridad dicen que trabajan con una mano atada si no pueden usar la tecnología de frontera, mientras los atacantes pueden desplegar modelos de pesos abiertos con las barreras de seguridad eliminadas.

Según OpenAI, en Daybreak participan "miles" de profesionales de ciberseguridad, frente a un número mucho mayor de posibles atacantes.

No está claro si los laboratorios de frontera destinan suficientes recursos al problema. Eric Wallace, investigador del equipo técnico de OpenAI, dijo que "ahora estamos destinando una cantidad significativa de nuestro cómputo de frontera a descubrir y parchar vulnerabilidades en bases de código abierto, de forma totalmente gratuita".

La búsqueda de bugs en Linux costó 1,2 millones de dólares. Es bastante menos que los cerca de 6 millones de dólares en tokens que la empresa invirtió en buscar una posible solución a un problema famoso de dinámica de fluidos.

Si de verdad hay una ventana estrecha para parchar la infraestructura digital de la que depende el mundo, concluye TechCrunch, hará falta más urgencia.