AMD presenta ROCm.AI: La nueva plataforma de desarrollo IA

Al grano

AMD presentó ROCm.AI, una plataforma que utiliza inteligencia artificial para automatizar la optimización de código y flujos de trabajo.

El sistema incluye el componente Hyperloom, diseñado para acelerar la validación y el análisis de kernels en cargas de trabajo IA.

La plataforma promete mejoras de rendimiento de 3.3x en inferencia y 2.4x en entrenamiento respecto a la versión ROCm 7.0.

Por qué importa

La introducción de ROCm.AI marca un giro estratégico para AMD en su competencia contra CUDA de NVIDIA. Al delegar la optimización de kernels y la gestión de memoria a agentes de IA, AMD intenta reducir la barrera de entrada para desarrolladores que no son expertos en hardware de bajo nivel. Para el mercado chileno y latinoamericano, donde el acceso a clusters de alto rendimiento es limitado, una herramienta que automatiza la eficiencia del código podría permitir que empresas locales ejecuten cargas de inferencia más complejas sobre hardware menos costoso. La clave del éxito residirá en si Hyperloom logra mantener la estabilidad en código legado, algo crítico para la adopción en entornos empresariales que ya operan con infraestructura ROCm establecida.

AMD presenta ROCm.AI como plataforma de desarrollo IA

Además del lanzamiento de los Instinct MI455X y Helios junto con los nuevos procesadores AMD EPYC 9006 "Venice", AMD aprovechó su evento anual Advancing AI para anunciar ROCm.AI, una plataforma impulsada por inteligencia artificial destinada a desarrolladores.

Tras el reciente lanzamiento de ROCm 7.14, ROCm.AI formará parte de la próxima actualización en agosto. Su objetivo es aprovechar la IA para ayudar a los desarrolladores a adaptar su código para su ejecución eficiente sobre ROCm.

La arquitectura de ROCm.AI se muestra como una solución integral para la modernización de proyectos de software en entornos de computación de alto rendimiento.

ROCm.AI proporciona habilidades específicas para agentes populares como Claude, Codex, Cursor y Gemini, ayudándoles a convertirse en "superusuarios de ROCm". Esto permite obtener optimizaciones asistidas por IA para mejorar bases de código existentes. Además, incluye el nuevo componente Hyperloom, capaz de optimizar flujos de trabajo de inferencia de extremo a extremo, automatizando el análisis, la optimización de kernels y la validación en una fracción del tiempo manual habitual.

La plataforma integra herramientas avanzadas para la gestión de tareas críticas en el ciclo de vida de desarrollo.

ROCm.AI utiliza optimizaciones basadas en IA para kernels de cómputo, gestión de memoria, paralelización y programación, mejorando tanto el rendimiento de inferencia como el entrenamiento de modelos.

La interacción con la plataforma se simplifica mediante una CLI diseñada para integrar estas capacidades en los pipelines de desarrollo actuales.

En teoría, ROCm.AI suena fantástico: utilizar IA para adaptar software al stack de AMD. En la práctica, será interesante observar su desempeño en bases de código diversas. AMD asegura que ROCm.AI ofrece una mejora promedio de 3.3x en inferencia y 2.4x en entrenamiento, tomando como línea base la versión ROCm 7.0.

La integración de Hyperloom marca un hito en la automatización del despliegue de modelos complejos.

Estos son los detalles preliminares disponibles hasta la fecha. Se espera conocer más sobre las capacidades definitivas de ROCm.AI en su próxima versión programada para agosto.

Vía Phoronix.