SafeWorld salió esta semana del modo sigiloso con 12,2 millones de dólares de capital semilla. La startup quiere facilitar las pruebas de seguridad de robots con IA mediante simulación. Según la empresa, su plataforma sirve en distintas industrias y con distintos tipos de robot, entre ellos brazos, humanoides y robots móviles.

"Nuestra mirada es que, si vas a tener robots más capaces, tiene todo el sentido que necesites formas más capaces de probarlos y validarlos", dijo a The Robot Report Kyle Wong, cofundador y CEO de SafeWorld. "Si no, no vas a desplegar esos robots."

"Usamos robots desde hace quizás 100 años", dijo Ding Zhao, cofundador de SafeWorld y director del Safe AI Lab de la Universidad Carnegie Mellon. "Fundamos la empresa ahora porque, cuando llegó la IA, la automatización subió de nivel. Por primera vez se les permitió a los robots salir de la jaula y compartir el espacio con las personas."

Según Zhao, ese nivel de colaboración exige que el robot entienda su entorno de una manera completamente nueva, y ahí entra SafeWorld.

Shine Capital y a16z Speedrun codirigieron la ronda. También participaron Box Group, el fondo patrimonial de la Universidad Carnegie Mellon, Innovation Endeavors, SV Angel y otros fondos de capital de riesgo e inversionistas ángeles.

SafeWorld busca que a las empresas de robótica les resulte más fácil construir sistemas seguros. La empresa, con sede en Oakland, California, ya tiene clientes en industria, manufactura, logística, construcción e incluso algunos usos domésticos, según Wong.

"Las empresas de robótica, por supuesto, tienen que hacerse responsables de la seguridad", dijo Wong. "La pregunta es más bien si deberían construirla desde cero cada vez. Nosotros creemos que eso no tiene sentido."

¿Cómo funciona la plataforma?

SafeWorld dice que entrega a las empresas una forma escalable de probar cómo se comportan los robots cerca de personas en situaciones raras, peligrosas e inesperadas, sin poner a nadie en riesgo.

"Son escenarios de seguridad que todavía no han ocurrido en el mundo", dijo Wong. "Entonces, ¿cómo entrenas contra algo para lo que no hay un conjunto de datos amplio? Es un desafío grande."

"Entregamos software de simulación de seguridad robótica que las empresas que construyen robots pueden usar para respaldar mejor su seguridad con evidencia, para probar distintos escenarios antes de que ocurran en el mundo real, o para probar cosas que en la práctica son demasiado raras, peligrosas o caras de probar en el mundo real", agregó.

Los equipos arman escenarios directo en el navegador a partir de incidentes pasados, normas de seguridad y registros de los robots, sin necesitar experiencia en simulación. SafeWorld hace pasar al robot por miles de variantes con movimiento humano realista y reactivo, y mide su desempeño en seguridad.

Como cada actualización de software y cada entorno nuevo pueden traer riesgos nuevos, los equipos pueden repetir estas pruebas de forma continua, y no una sola vez antes del lanzamiento. El resultado, según SafeWorld, es un historial de seguridad que los responsables de ingeniería, seguridad y operaciones pueden respaldar.

Wong apuntó que muchas empresas ya trabajan con simulación, pero usarla para seguridad trae requisitos nuevos.

"Donde eso se rompe y cambia es en el detalle de las funciones", dijo. "Tienes que definir cuál es siquiera el criterio de prueba para la seguridad. Obviamente hay distintas normas, pero esas normas no están completas. Y además hay distintos tipos de evaluación de riesgos."

¿Cuándo conviene empezar?

Para algunos desarrolladores de robots cuesta saber cuándo invertir en seguridad. Si se parte muy temprano, el sistema puede cambiar mucho antes de llegar al mundo real y buena parte del trabajo queda inútil. Si se parte muy tarde, se arriesga atrasar los despliegues.

"Trabajamos con cerca de media docena de empresas, y dos tercios de ellas cotizan en bolsa", dijo Wong. "Yo diría que si tu plazo de despliegue es menor a un año, probablemente tienes que empezar a pensar en seguridad. Si es más de un año, quizás es un poco temprano."

El momento también depende del tipo de empresa.

"Hay dos tipos de empresas de robótica con IA. Una lleva la IA a los robots. La otra lleva los robots a la IA", dijo Wong. En la primera categoría están empresas como Caterpillar, que ya tienen hardware sofisticado y quieren sumarle capacidades de IA.

Para esos clientes la seguridad importa desde el primer día, porque ya tienen máquinas trabajando en el mundo. Si se parte desde el software, la seguridad llega después, al empezar a operar en el mundo real, aunque adelantarse igual puede ordenar el trabajo más adelante.

"La seguridad ha sido la base de Anyware Robotics desde el primer día", dijo Thomas Tang, CEO de Anyware Robotics. "Herramientas de simulación avanzadas como SafeWorld nos dan una forma escalable de probar escenarios difíciles, reforzar nuestros procesos de seguridad y preparar mejor a nuestros robots para el despliegue real."

Los planes con la ronda

SafeWorld dijo que usará el financiamiento para profundizar la adopción, ampliar su equipo y promover la investigación en seguridad en la industria.

"Queremos ir muy a fondo en la adopción empresarial y con algunos de nuestros clientes", dijo Wong. "Hay tanto por hacer en seguridad que tiene sentido concentrarnos en entregar."

"En lo comercial estamos haciendo mucho para promover distintas investigaciones, ya sea financiándolas o difundiéndolas, y trabajo de código abierto que está en la frontera de la seguridad de la IA", agregó.

Zhao y Wong coinciden en que, a medida que crece la industria, un tercero como SafeWorld puede ayudar a generar confianza en otros actores.

"Parte de la razón por la que creo que un tercero ayuda mucho acá es que la seguridad tiene una parte de ingeniería y otra de confianza, y necesitas las dos para desplegar", dijo Wong. "La parte de confianza tiene que ver con la gestión de los actores involucrados y con quién firma la aprobación."

"Esto es en realidad un problema de despliegue. Por eso es necesario que una empresa externa trabaje en esto, para ganar la confianza no solo hacia la propia empresa, sino hacia toda la industria", dijo Zhao.