AT&T ahorra el 90% en costos de IA tras gestionar 8.000 millones de tokens diarios

En un sector donde la agilidad y la personalización marcan la diferencia entre el éxito y el estancamiento, la inteligencia artificial deja de ser una promesa futurista para convertirse en una herramienta operativa crucial. Sin embargo, la implementación masiva de sistemas de IA enfrenta obstáculos inesperados, especialmente en lo que a costes y complejidad se refiere. Un análisis de caso, proveniente de una empresa de telecomunicaciones estadounidense, ofrece lecciones valiosas para cualquier industria que maneje grandes volúmenes de datos, incluida la moda.

El punto de partida era un desafío de escala: un promedio de 8.000 millones de tokens procesados diariamente. Empujar toda esa carga a través de modelos de lenguaje grandes (LLMs) resultaba no solo técnicamente oneroso, sino económicamente insostenible. La solución adoptada consistió en rediseñar por completo la capa de orquestación de sus sistemas. En lugar de un único monolito de IA, se建构ó una arquitectura multiagente. En este esquema, «superagentes» basados en modelos de lenguaje grandes coordinan a una miríada de «agentes trabajadores» más pequeños y especializados, cada uno ejecutando tareas concretas y de propósito definido. Esta flexibilidad ha optimizado drásticamente la latencia y los tiempos de respuesta, logrando, según fuentes consultadas, una reducción de costes de hasta el 90%.

El principio rector que emerge es claro: el futuro de la IA agentica reside en el uso masivo de modelos de lenguaje pequeños (SLMs). Para tareas específicas dentro de un dominio, como el análisis de tendencias de consumo o la gestión predictiva de inventario en moda, estos modelos ofrecen una precisión comparable a la de los LLMs, pero con una huella computacional y un coste significativamente menores.

Para hacer esta tecnología accesible a toda la organización, se desarrolló una plataforma gráfica de creación de flujos de trabajo. Esta herramienta permite a empleados, desde diseñadores hasta responsables de logística, automatizar procesos mediante una interfaz de «arrastrar y soltar», sin necesidad de escribir código. Los agentes construidos tienen acceso a un conjunto de herramientas internas que realizan funciones clave: procesamiento de documentos, conversión de lenguaje natural a consultas SQL para analizar bases de datos de ventas, o análisis de imágenes para identificar patrones en colecciones. La toma de decisiones se alimenta constantemente con datos propios de la compañía, garantizando que las respuestas estén ancladas en información interna, no en conocimiento general.

No obstante, persiste un control humano fundamental. Cada cadena de acciones de los agentes es supervisada, registrada y auditada. Los sistemas están diseñados para que, ante cualquier desviación o evento imprevisto, un operario humano pueda intervenir. Como señalan desde el departamento de datos, «la automatización existe, pero el humano en el bucle proporciona el equilibrio y la verificación final». Esta supervisión es especialmente crítica en industrias creativas como la moda, donde el criterio estético y ético debe primar sobre la pura optimización algorítmica.

La filosofía de desarrollo evita caer en la trampa de construir todo desde cero. La estrategia se basa en seleccionar e integrar componentes «intercambiables y seleccionables» del ecosistema tecnológico, descartando el desarrollo de herramientas que ya son commodities en el mercado. La velocidad del cambio en este campo exige poder probar, incorporar y reemplazar módulos con agilidad. Para evaluar opciones, se realizan pruebas rigurosas, benchmarks estándar como Spider 2.0 para SQL o BERT para comprensión de lenguaje, y se mantiene una estrecha colaboración con socios tecnológicos.

Aquí radica una advertencia crucial para los innovadores: no todo necesita ser «agentico». A veces, una solución de generación de lenguaje en un solo turno es suficiente y más eficiente. Los equipos deben preguntarse: ¿qué nivel de precisión se requiere? ¿Puede descomponerse el problema en piezas más pequeñas que cada agente pueda ejecutar con mayor exactitud? La precisión, el coste y la capacidad de respuesta siguen siendo los principios rectores, incluso cuando las soluciones ganan en complejidad.

La adopción interna de esta plataforma, probada en una organización con más de 100.000 empleados, ha sido notable. Más de la mitad de los usuarios la emplea a diario, y muchos reportan incrementos de productividad de hasta el 90%. Interesantemente, incluso los usuarios con altas competencias técnicas muestran una marcada preferencia por la interfaz sin código, que ofrece una experiencia más liviana y rápida. Esto sugiere que, en entornos profesionales, la simplicidad y la velocidad de implementación suelen pesar más que el control granular del código.

Imaginemos su aplicación en una casa de moda. Un equipo de diseño podría construir agentes que escaneen redes sociales y pasarelas para detectar microtendencias en colores o siluetas, cruzando esa información con datos de inventario de tejidos. Otro agente, tras la aprobación inicial del diseñador, podría optimizar automáticamente los patrones de corte para minimizar el desperdicio de material. Un tercero gestionaría la comunicación con talleres externos y proveedores, generando órdenes de producción en el formato requerido por cada socio. El diseñador o el responsable de producto supervisaría el flujo completo, interviniendo solo en puntos clave de decisión creativa o comercial.

Esta misma disciplina de descomponer tareas complejas en unidades manejables está redefiniendo la forma en que se escribe software, una práctica que podría bautizarse como «codificación impulsada por IA». En lugar de la famosa «codificación por vibración», donde el desarrollador itera de forma más o menos guiada, este método utiliza entornos de desarrollo integrados con «arquetipos de construcción específicos por función». El resultado es código que, en un solo turno, puede alcanzar una calidad cercana a la de producción, eliminando múltiples rondas de revisión. Para equipos no técnicos, como los de marketing o merchandising, esta capacidad permite crear prototipos de aplicaciones internas —por ejemplo, un visualizador de colecciones o un simulador de precios— usando únicamente descripciones en lenguaje natural.

El impacto es transformador. Mientras que el desarrollo tradicional de un producto de datos interno podría llevar semanas, con este enfoque se reduce a minutos. Esta aceleración no solo comprime plazos, sino que democratiza la creación de soluciones digitales, permitiendo que las áreas de negocio de una empresa de modaprototipen y prueben ideas sin depender exclusivamente del departamento de TI.

En definitiva, el camino hacia una IA operativa y rentable no pasa inevitablemente por los modelos más grandes y costosos, sino por una orquestación inteligente, el uso estratégico de modelos especializados y una interfaz amigable para el usuario final. Para la industria de la moda, acostumbrada a ciclos de tendencia vertiginosos, adoptar este enfoque podría significar no solo ahorros sustanciales, sino una capacidad de reacción y personalización sin precedentes, donde la tecnología se pone al servicio de la creatividad y la eficiencia, y no al revés.