La extensión Radeis para NVIDIA Isaac Sim ha sido diseñada específicamente para realizar pruebas de ciberseguridad en robots antes de su despliegue masivo.
Ante la creciente preocupación por la ciberseguridad, los desarrolladores de robótica están obteniendo herramientas para realizar pruebas en entornos de simulación. VicOne Inc. presentó ayer la extensión gratuita VicOne Radeis para NVIDIA Isaac Sim, la cual permite a los desarrolladores evaluar cómo escenarios de ataque seleccionados pueden afectar el comportamiento de sus propios modelos robóticos.
“Las empresas de robótica están pasando de probar casos de uso individuales a desplegar robots a escala en entornos del mundo real. A medida que este cambio se acelera, la industria debe validar no solo si los robots funcionan según lo diseñado, sino también si siguen siendo confiables cuando los sistemas digitales de los que dependen son comprometidos”, afirmó Max Cheng, CEO de VicOne.
“La validación de la ciberseguridad debe convertirse en una parte estándar del desarrollo robótico”, añadió. “Al convertir las investigaciones de DEF CON en escenarios de simulación repetibles, estamos ayudando a los desarrolladores a abordar estos riesgos de manera temprana y a construir una IA física más resiliente a escala”.
Fundada en 2022, VicOne ha construido su ciberseguridad para IA física sobre su experiencia en el sector automotriz. La subsidiaria de Trend Micro indicó que su software y servicios pueden proteger los sistemas digitales que definen cómo los vehículos y los robots ven, deciden y actúan.
Con sede en Tokio, VicOne ayuda a fabricantes de equipos originales (OEM), proveedores de nivel 1, fabricantes de robots y operadores a identificar riesgos cibernéticos de forma temprana, evaluar su impacto potencial en la seguridad y proteger los sistemas en operación. La empresa señaló que ha descubierto más de 180 vulnerabilidades de día cero en los sectores automotriz y robótico, añade más de 100 millones de señales de inteligencia de amenazas mensualmente y ha presentado 30 solicitudes de patentes en EE. UU. para la seguridad de vehículos definidos por IA e IA física.
VicOne aprende de los hallazgos de DEF CON
Los fabricantes de robots invierten mucho en pruebas funcionales, ingeniería de seguridad y simulación, pero las condiciones inducidas por ciberataques aún pueden quedar fuera de los planes de prueba convencionales, señaló VicOne. En el evento Robotic Hacking Community de DEF CON 34, la compañía llevó a cabo su ejercicio CTF (Capture The Flag) llamado Physical AI Safety Stress Test.
Los investigadores de seguridad probaron cómo los compromisos digitales podrían alterar el comportamiento de los robots bajo condiciones controladas. El desafío examinó rutas de ataque a través de modelos de IA, percepción, servicios de nube y API, comunicaciones robóticas y sistemas integrados.
Las actividades de DEF CON incluyeron las plataformas robóticas Reachy Mini y LeKiwi. Estas proporcionaron a los investigadores sistemas prácticos para explorar cómo las vulnerabilidades de ciberseguridad podrían afectar el comportamiento físico del robot.
VicOne estudió los intentos fallidos y las suposiciones de ataque recién observadas para refinar escenarios que involucran entradas visuales manipuladas, comandos secuestrados, políticas de IA envenenadas y explotación de interfaces conectadas. Al probar estas condiciones a nivel de sistema, los equipos pueden determinar si las vulnerabilidades en componentes individuales podrían alterar el comportamiento del robot completo, explicó la firma.
En DEF CON 34, 16 equipos registraron 25 resoluciones exitosas, destacó VicOne. Casi todos los desafíos principales de ciberseguridad en IA y robótica fueron resueltos al menos una vez, dejando sin solución solo un desafío avanzado de sistemas integrados que involucraba criptografía y vulnerabilidades de firmware.
La compañía indicó que los resultados demostraron que los riesgos que alteran el comportamiento pueden surgir en múltiples capas del stack robótico, reforzando la necesidad de evaluar la ciberseguridad a nivel de sistema en lugar de evaluar vulnerabilidades solo de forma aislada.
Los expertos exploraron cómo las amenazas cibernéticas impactan en robots impulsados por IA, analizando riesgos desde la percepción hasta la toma de decisiones.
¿Cómo aplica esta extensión la investigación de hacking robótico?
Cada intento de ataque puede contribuir a una protección más sólida, afirmó VicOne. Un intento exitoso puede revelar un camino desde el compromiso digital hasta el cambio de comportamiento del robot. Un intento fallido aún puede exponer suposiciones del atacante, rutas de control no exploradas o salvaguardas que requieren validación adicional.
VicOne señaló que traduce estos hallazgos en escenarios estructurados que los desarrolladores pueden repetir a medida que evolucionan el software, los sensores, los modelos de IA, las comunicaciones y las arquitecturas de control del robot. Usando la extensión gratuita, los desarrolladores pueden:
- Integrar su modelo de robot y la tarea prevista en NVIDIA Isaac Sim.
- Aplicar escenarios seleccionados basados en la investigación de seguridad de IA física de VicOne y los hallazgos de DEF CON.
- Validar si un modelo de lenguaje visual (VLM) sigue siendo resiliente contra prompts visuales adversarios, entradas maliciosas e intentos de manipulación de sensores que podrían llevar a interpretaciones incorrectas o decisiones inseguras.
- Repetir pruebas a medida que cambian los modelos, el software, los sensores, las comunicaciones y las rutas de control.
NVIDIA Isaac Sim proporciona un entorno basado en la física para diseñar, simular, probar y validar robots impulsados por IA, afirmó la empresa. La extensión VicOne Radeis añade escenarios de ciberseguridad y observación de impacto conductual a los flujos de trabajo de simulación existentes, ayudando a los equipos a examinar casos borde relacionados con la seguridad antes de pasar a las pruebas físicas o al despliegue.
Los desarrolladores pueden observar si el robot se desvía de su tarea prevista, sus límites operativos o su respuesta esperada. La extensión Radeis permite a los desarrolladores utilizar sus propios modelos de robot, tareas previstas y suposiciones operativas dentro de NVIDIA Isaac Sim, en lugar de probar solo dentro de un entorno de demostración genérico, indicó VicOne.
La tabla de clasificación muestra el rendimiento de los equipos que participaron en los desafíos de ciberseguridad durante el evento.
¿Está disponible la extensión Radeis para NVIDIA Isaac Sim?
VicOne afirmó que Radeis ofrece a los equipos de robótica un punto de partida práctico para explorar el riesgo cibernético-físico. Añadió que la extensión gratuita para NVIDIA Isaac Sim puede ayudar a los equipos de ingeniería, seguridad y protección a discutir los riesgos a través de resultados robóticos visibles en lugar de tratar las vulnerabilidades solo como hallazgos de software abstractos.
Para organizaciones que requieren una evaluación más amplia, VicOne Radeis es una solución de validación de ciberseguridad pre-despliegue que evalúa los riesgos de componentes, sistemas y modelos de IA, y luego analiza cómo las vulnerabilidades y escenarios de ataque podrían afectar el comportamiento del robot integrado. La solución completa Radeis admite investigaciones más profundas, planificación de remediación, decisiones de lanzamiento y preparación para el cumplimiento, señaló VicOne.
La extensión VicOne Radeis para NVIDIA Isaac Sim está disponible ahora como una descarga gratuita para desarrolladores que utilicen versiones compatibles de NVIDIA Isaac Sim.
Vía The Robot Report.
