Carlos Domínguez
La irrupción de la robótica impulsada por modelos generativos ha puesto sobre la mesa una paradoja técnica de enorme calado: cómo garantizar la seguridad de máquinas cuyo comportamiento, a diferencia de los algoritmos tradicionales, no es lineal ni predecible. Safeworld, una nueva firma surgida del entorno académico de la Universidad Carnegie Mellon, ha captado 12 millones de dólares en una ronda de financiación semilla para abordar esta brecha crítica. Liderada por el doctor Ding Zhao, junto a Kyle Wong y Simo Rachidi, la compañía busca estandarizar la validación de sistemas autónomos antes de que su despliegue masivo en entornos humanos provoque incidentes irreversibles.
La complejidad de certificar lo impredecible
El núcleo del problema reside en la naturaleza probabilística de los modelos fundacionales. Cuando un robot se desplaza por un almacén o una planta industrial, su toma de decisiones depende de una arquitectura que no siempre ofrece garantías matemáticas de comportamiento. Safeworld propone una solución basada en la creación de entornos virtuales altamente realistas donde se somete al robot a miles de escenarios críticos. Esta metodología, similar a la utilizada por empresas de conducción autónoma, busca cuantificar el riesgo de un sistema que debe interactuar con humanos en entornos no estructurados.
- Inversión estratégica: La ronda de 12 millones de dólares ha sido liderada por Shine Capital y a16z Speedrun, con participación de entidades como el fondo de dotación de la Universidad Carnegie Mellon.
- Desafío empírico: A diferencia del software tradicional, la seguridad en robótica no puede verificarse únicamente mediante ecuaciones, sino que requiere pruebas empíricas ante la variabilidad infinita del comportamiento humano.
- Necesidad de estándares: El sector carece de normas unificadas para el despliegue de robots, lo que convierte a los validadores externos en una pieza fundamental para la confianza corporativa y regulatoria.
El desafío de seguridad que abordamos es una combinación de evaluaciones probabilísticas avanzadas para sistemas de Inteligencia Artificial y la construcción de la confianza necesaria para el despliegue comercial, sostiene el doctor Ding Zhao.
Simulación y el factor humano
La plataforma de Safeworld utiliza modelos avanzados como Genesis o MuJoCo para recrear réplicas digitales de espacios físicos. La clave no es solo el entorno, sino la diversidad de los modelos humanos que integran. Los ingenieros deben programar reacciones ante personas que corren, se agachan o sufren caídas accidentales. Vishal Dugar, director técnico de Gritt Robotics, colaborador de Safeworld, señala que la diversidad física de los trabajadores, desde la estatura hasta la indumentaria, añade una capa de complejidad que solo puede resolverse mediante simulaciones masivas y continuas.
El imperativo de la regulación y el mercado
La adopción corporativa de robots humanoides o autónomos avanza más rápido que los marcos regulatorios. Jonathan Lai, socio de a16z Speedrun, advierte que esperar a que ocurran incidentes graves en hogares o centros de trabajo para legislar sería un error estratégico. Safeworld se posiciona no solo como una herramienta de software, sino como un tercer actor independiente que valide la seguridad de los fabricantes. Este rol de auditoría externa podría convertirse en un requisito indispensable para que las aseguradoras y los reguladores permitan la convivencia entre humanos y máquinas en espacios compartidos.
La empresa se encuentra ahora en una fase de definición de su modelo de negocio, debatiendo si ofrecer su tecnología como una plataforma de autoservicio o como un servicio de consultoría especializada. Sin embargo, la ambición de sus fundadores es clara: convertirse en el estándar de oro de la industria. En un mercado donde la escalabilidad determinará el éxito, la capacidad de garantizar que un robot no represente un peligro en una esquina ciega de una fábrica será, probablemente, el activo más valioso de la nueva era de la automatización.
¿Otra vez con esas promesas académicas? Si los algoritmos son imprevisibles, ¿cómo se puede garantizar lo ético? Por favor, no quiero que un robot decida quién es ‘más seguro’… antes de que nos roben hasta la imaginación.