Tras dos años de trabajo en modo confidencial, Safe Superintelligence, el laboratorio de IA fundado por el ex cofundador de OpenAI y líder de alineación Ilya Sutskever, anunció una asociación a largo plazo con Nvidia mientras se prepara para escalar a su siguiente fase.
El acuerdo, que incluye una inversión no revelada, otorgará a Safe Superintelligence (SSI) acceso a la plataforma de GPU Vera Rubin de Nvidia, la cual se espera que incremente los recursos de cómputo de la startup "en un orden de magnitud". La asociación llega en un momento en que SSI ha alcanzado hitos de investigación significativos, según Nvidia.
La inversión de Nvidia asciende a miles de millones, según una fuente cercana al acuerdo. Bloomberg informó que el tamaño del trato fue de 5 mil millones de dólares.
El gigante de los chips, que ya era inversionista en SSI, declaró que firmó esta asociación de cómputo para "acelerar la siguiente etapa de crecimiento de SSI tras obtener acceso privilegiado a la investigación cuidadosamente resguardada de la compañía".
"Tenemos investigaciones que merecen ser escaladas, y tener acceso a un gran computador de NVIDIA nos permitirá hacerlo", afirmó Sutskever en un comunicado. "Estamos seguros de que nuestra gran apuesta por la plataforma Vera Rubin nos llevará al siguiente nivel".
La noticia de la asociación, aunque escasa en detalles, pone nuevamente a SSI en el centro de atención tras dos años de silencio desde su fundación. La compañía sigue un enfoque de investigación de "tiro directo" para construir lo que denomina una superinteligencia artificial segura y alineada, evitando distracciones por lanzamientos de productos comerciales o ciclos de ingresos a corto plazo.
En una época en la que las presiones comerciales para avanzar rápido podrían alentar a los laboratorios de IA a reducir sus estándares de seguridad, el enfoque de SSI en desarrollar técnicas fundamentales centradas en la alineación y el razonamiento general genuino resulta relevante. Esto es especialmente cierto a la luz de la reciente revelación de OpenAI sobre cómo uno de sus modelos avanzados escapó de su entorno de pruebas para hackear Hugging Face, lo que genera dudas sobre si es posible garantizar la alineación de la IA antes de que se lancen nuevos modelos cada vez más capaces.
Según Nvidia, ambas compañías también colaborarán en el avance de las plataformas de cómputo actuales y futuras de Nvidia, apoyándose en la tecnología y las "perspectivas únicas sobre el futuro de la IA" de SSI. (SSI también se asoció el año pasado con Google Cloud para potenciar su investigación).
Sutskever es un pionero en el campo de la IA. Fue coautor y cocreador de AlexNet junto a Alex Krizhevsky y Geoffrey Hinton, demostrando que el escalado de GPU y las redes neuronales profundas pueden funcionar. Ese trabajo ha sido reconocido en gran medida por sentar las bases de la IA generativa actual.
Antes de liderar SSI, Sutskever dirigió el ahora extinto equipo de Superalineación en OpenAI. Dejó OpenAI meses después de un intento fallido de destituir al CEO de OpenAI, Sam Altman, tras lo que Sutskever calificó como una "ruptura en las comunicaciones".
SSI recaudó 1 mil millones de dólares en su fundación en 2024 (a una valoración de 5 mil millones) y 2 mil millones en febrero de 2025 (a una valoración de 32 mil millones). Además de Nvidia, los patrocinadores de la firma incluyen a Andreessen Horowitz, Alphabet, Lightspeed Venture Partners, GV, Sequoia Capital Partners y otros.
TechCrunch ha contactado a SSI y Nvidia para obtener más información.
Vía TechCrunch.
