Karpathy advierte: un 90% de fiabilidad en IA es un riesgo empresarial.

La industria de la moda, en su carrera imparable por integrar la inteligencia artificial, se enfrenta a una paradoja silenciosa: un sistema que funciona nueve de cada diez veces no es simplemente “bueno”, es estadísticamente insuficiente para las exigencias del lujo y la producción en masa. Una idea acuñada en el mundo de la tecnología por el experto Andrej Karpathy, conocida como la “Marcha de los Nueves”, revela por qué alcanzar ese primer 90% de confiabilidad es solo el comienzo de un camino mucho más largo y costoso, y por qué cada nuevo “nueve” adicional —es decir, pasar del 90% al 99%, al 99.9% y más allá— exige un esfuerzo de ingeniería similar al invertido hasta ese punto. Para las casas de moda que confían en flujos de trabajo automatizados, desde el diseño generativo hasta la logística de entrega, esta matemática se traduce directamente en riesgo de marca, desperdicio de materiales y clientes insatisfechos.

La clave reside en la naturaleza compuesta de los procesos. Un solo error en una etapa —un algoritmo de diseño que interpreta mal una tendencia, un sistema de corte que yerra una medida, un conector de inventario que falla— puede invalidar todo el trabajo posterior. Si cada paso de una cadena de once procesos tiene una tasa de éxito del 90%, el resultado final no será del 90%, sino de apenas el 34%. Esto significa que en un día con cien pedidos complejos, más de sesenta y cinco experimentarían una interrupción. Para un prototipo o una prueba interna, puede ser aceptable; para una producción real o una experiencia de cliente premium, es inaceptable.

Para avanzar hacia los niveles de excelencia que exigen las marcas de prestigio —aquellos donde el software se percibe como “digno de confianza”—, es fundamental medir la confiabilidad con objetivos específicos y cuantificables, conocidos como Niveles de Servicio Objetivo (SLOs). En moda, esto podría traducirse en métricas como la tasa de finalización de un pedido sin intervención manual, el porcentaje de patrones generados que cumplen con las especificaciones técnicas de corte, o la precisión en las previsiones de demanda por almacén. Definir estos indicadores y establecer un “presupuesto de error” permite a los equipos tomar decisiones basadas en datos: ¿es mejor invertir en optimizar el algoritmo de diseño o en reforzar la conexión con el sistema de logística?

Lograr esos “nueves” adicionales requiere un enfoque metódico. El primer paso es constraintar la autonomía de los sistemas. En lugar de dejar que un agente de IA tome decisiones abiertas, se debe definir un gráfico de flujo de trabajo explícito, con estados acotados, reintentos limitados y salidas predeterminadas para cada posible escenario. Cada interacción con una herramienta —un software de diseño CAD, un sistema de体, una plataforma de personalización— debe estar regida por contratos estrictos. Validar que cada JSON, cada medida, cada color en formato hexadecimal, cumpla con un esquema predefinido antes de proceder, evita que un pequeño error de formato propagué una cadena de fallos.

La capa siguiente es la de los validadores: no solo comprobar que los datos tengan la forma correcta (sintaxis), sino que tengan sentido en el contexto del negocio (semántica). ¿El peso de un tejido sugerido por la IA es físicamente viable para ese diseño? ¿La solicitud de personalización infringe las políticas de derechos de autor de un estampado? ¿Se respetan las restricciones de residencia de datos para un cliente europeo? Estos filtros actúan como guardaespaldas del proceso productivo.

Otra palanca crucial es la enrutamiento basado en riesgo. No todas las acciones tienen la misma gravedad. Sugerir un complemento puede tener un margen de error mayor que autorizar un descuento del 50% o ejecutar una orden de producción de miles de unidades. Los sistemas deben aprender a medir su propia incertidumbre —por ejemplo, a través de clasificadores de confianza o verificaciones de consistencia— y dirigir las decisiones de alto impacto hacia modelos más robustos, requerir verificación adicional o, en último término, escalar a un humano.

La fiabilidad de las integraciones es, a menudo, el talón de Aquiles. Las conexiones con sistemas de proveedores, plataformas de pago o servicios de mensajería pueden colapsar por cambios no comunicados en APIs o por límites de tasa. Aquí se aplican las lecciones de los sistemas distribuidos: circuit breakers para aislar fallos, timeouts estrictos para evitar bloqueos, y versionado de esquemas para detectar “deriva” silenciosa. Tan importante como la generación de un patrón es saber que el archivo enviado al taller de confección será interpretado exactamente como se espera.

Finalmente, y quizás lo más transformador, es diseñar la supervisión desde el origen. Los sistemas no deben ser un interruptor on/off, sino un “control de autonomía” graduable. Por defecto, las operaciones críticas —como la aprobación de una compra de materia prima o la modificación de un precio— deben requerir confirmación o seguir una ruta con mayor supervisión. Se deben construir “modos seguros” predefinidos: desactivar herramientas riesgosas, forzar el uso de un modelo más conservador o redirigir a un agente humano durante una incidencia. Cada fallo, por raro que sea, debe convertirse en un caso de prueba para impedir su repetición.

En la práctica, cada paso del flujo puede envolverse en un “ejecutor limitado” que combine: tiempo máximo de ejecución, validación de salida, un número acotado de reintentos con espera aleatoria entre ellos, y un fallback claro (como escalar a un experto humano o devolver un resultado predeterminado seguro). Esta pequeña capa de gobernanza convierte la aleatoriedad de un modelo generativo en un componente de software predecible y auditable.

Para las casas de moda, la búsqueda de ese 99.99% no es un ejercicio teórico. Los errores de precisión se convierten en exceso de stock, en devoluciones, en campañas de recall de materiales sostenibles que resultaron no serlo. La confiabilidad es, en esencia, un componente de lujo y de sostenibilidad. La tecnología que falla una de cada mil veces genera英里 de desperdicio textil y erosiona la confianza del consumidor. Por tanto, invertir en la “Marcha de los Nueves” no es solo un desafío de ingeniería, sino una obligación estratégica para cualquier brand que aspire a la excelencia operativa y a una reputación intacta en una era de hiperpersonalización y cadena de suministro global.
«