A comienzos de este año NVIDIA encabezó un esfuerzo junto a más de dos docenas de otras compañías para lanzar la Open Secure AI Alliance, con foco en mantener seguros los modelos de inteligencia artificial de código abierto. Desde hoy, la Open Secure AI Alliance deja de estar tutelada por NVIDIA y pasa a ser un proyecto de la Linux Foundation.

Cuando la alianza se lanzó en julio, ya se apoyaba en la iniciativa Akrites de la Linux Foundation y en OpenSSF. Fue fundada por NVIDIA y respaldada por nombres como IBM y Red Hat, SpaceX, OpenClaw y Palantir, entre otras organizaciones. Ahora la alianza migra bajo el paraguas de la Linux Foundation como hogar neutral.

¿Qué dijo la Linux Foundation?

La Linux Foundation anunció la transición este mismo día en LinkedIn.

"Fundada originalmente por NVIDIA, la Open Secure AI Alliance va a desarrollar herramientas de código abierto, estándares compartidos y prácticas defensivas que ayuden a las organizaciones a inspeccionar, auditar y asegurar sistemas de IA. Bajo la gobernanza neutral de la Linux Foundation, esta comunidad puede acelerar el desarrollo de una pila de seguridad abierta y compartida para la IA. Eso incluye iniciativas como el Shared AI Findings Exchange (SAFE), que permite a las organizaciones compartir inteligencia sobre amenazas y fortalecer colectivamente las defensas frente a los riesgos de seguridad emergentes de la IA. La seguridad de la IA es un desafío compartido. Abordarlo requiere un ecosistema abierto donde las organizaciones puedan colaborar entre proveedores, plataformas e industrias."

El nuevo hogar del proyecto es SecureAIAlliance.org, donde hay más detalles sobre sus ambiciones.

¿Por qué importa el cambio de gobernanza?

El movimiento es más relevante de lo que parece a primera vista. Una alianza de seguridad tutelada por el fabricante dominante de aceleradores tiene un problema estructural de credibilidad: los competidores directos de ese fabricante tienen pocos incentivos para aportar hallazgos de vulnerabilidades a una infraestructura que controla otra empresa.

La Linux Foundation es precisamente el mecanismo que la industria ocupa para resolver ese problema. Al mover el proyecto a una fundación con gobernanza neutral, marcas registradas independientes y reglas de contribución públicas, la participación deja de depender de la buena voluntad de un actor.

El componente que hay que mirar es SAFE (Shared AI Findings Exchange). Un intercambio de hallazgos solo funciona si acumula participantes: mientras menos organizaciones reporten, menos valor tiene reportar, y ese es el círculo vicioso que hunde a la mayoría de las iniciativas de inteligencia de amenazas compartida. La gobernanza neutral es una condición necesaria, aunque no suficiente, para romperlo.

El contexto de seguridad en modelos abiertos

La superficie de ataque de un modelo de código abierto no se parece a la de una biblioteca de software tradicional. Los pesos de un modelo son un archivo binario opaco que puede llevar comportamiento inyectado durante el entrenamiento o el ajuste fino, y que ninguna revisión de código detecta. A eso se suman los formatos de serialización que ejecutan código al cargarse, las cadenas de dependencias de los repositorios de modelos y los ataques de envenenamiento de datos.

Auditar todo eso exige herramientas que hoy no existen de manera estandarizada, y ese vacío es lo que la alianza dice que va a atacar con estándares compartidos y prácticas defensivas.

Para la región, donde la adopción de modelos abiertos suele ser la vía más barata de entrar a la IA, tener herramientas públicas de inspección y auditoría importa más que en mercados que pueden pagar por servicios propietarios de seguridad. Un estándar abierto de auditoría de pesos es infraestructura que se puede usar sin licencia.