NVIDIA y más de dos docenas de compañías dieron inicio a la Open Secure AI Alliance, una iniciativa para ayudar a mantener seguros los modelos de IA de código abierto. Entre los demás miembros fundadores hay nombres que van desde Microsoft hasta Adobe, IBM, Red Hat, SpaceX, OpenClaw y Palantir, entre otros.
¿Qué busca la alianza?
La Open Secure AI Alliance apunta a aumentar la seguridad y el uso responsable en torno a los modelos de IA abiertos, y se construye sobre la iniciativa Akrites de la Linux Foundation y sobre OpenSSF. Como parte de su trabajo, la alianza se propone remediar y divulgar vulnerabilidades usando tecnologías abiertas.
El caso Hugging Face como advertencia
NVIDIA señala en el anuncio de esta nueva alianza industrial que un incidente reciente marcó el rumbo:
"El reciente incidente de seguridad de Hugging Face dejó un recordatorio claro: los defensores necesitan sistemas agénticos abiertos y de frontera para su propia defensa. Cuando las herramientas de IA cerradas, incapaces de distinguir a los atacantes de los defensores, bloquearon el análisis forense esencial, Hugging Face ejecutó el modelo de pesos abiertos GLM 5.2 en su propia infraestructura para analizar más de 17.000 acciones y contener la intrusión. Ese incidente mostró una verdad práctica: cuando los defensores no pueden inspeccionar, adaptar y ejecutar IA avanzada en su propia infraestructura, su capacidad de respuesta queda limitada justo en el momento en que la velocidad más importa. Las empresas y los países necesitan herramientas y técnicas defensivas abiertas y de frontera para que las industrias críticas puedan construir sistemas de seguridad en un ecosistema multiproveedor y evitar puntos únicos de falla. Esa es la misión de la Open Secure AI Alliance: asegurar que los defensores en todas partes tengan herramientas abiertas y de frontera en las que puedan confiar y que puedan controlar. Los defensores necesitan tanto modelos cerrados de frontera como modelos abiertos de frontera, trabajando juntos, para poder elegir el sistema adecuado para cada tarea y garantizar que la transparencia, la adaptación y el control soberano estén disponibles donde la seguridad lo exija."
Quienes quieran más detalles sobre la Open Secure AI Alliance pueden encontrarlos en el anuncio de NVIDIA.
