Snowflake presenta Cortex Analyst, un sistema IA para análisis de datos fiable.

Snowflake ha lanzado Cortex Analyst, un sistema de inteligencia artificial agente para análisis de datos precisos. La compañía anunció en un reciente evento que está poniendo en marcha Cortex Analyst, un nuevo sistema de IA agente para análisis de autoservicio, que se encuentra en fase de previsualización pública.

Este sistema, anunciado durante la cumbre de la nube de datos de la compañía en junio, es un servicio totalmente gestionado que proporciona a las empresas una interfaz conversacional para hablar con sus datos. Los usuarios simplemente tienen que formular preguntas de negocio en inglés común y el sistema de IA se encarga del resto, desde convertir las preguntas en SQL y consultar los datos hasta ejecutar comprobaciones y proporcionar las respuestas necesarias.

Baris Gultekin, responsable de IA de Snowflake, mencionó que Cortex Analyst utiliza una combinación de varios agentes de modelos de lenguaje grandes que trabajan en conjunto para garantizar que los insights se entreguen con una precisión de aproximadamente el 90%. Este nivel de precisión es superior al de otros sistemas de texto a SQL impulsados por LLM existentes, lo que permite acelerar los flujos de trabajo analíticos y proporcionar a los usuarios empresariales acceso instantáneo a los insights necesarios para tomar decisiones críticas.

En un contexto donde las empresas están cada vez más orientadas hacia la generación y pronóstico impulsados por IA, el análisis de datos sigue desempeñando un papel transformador en el éxito empresarial. Sin embargo, el ecosistema analítico actual se basa en gran medida en paneles de inteligencia empresarial que utilizan gráficos y mapas para visualizar datos y proporcionar información, lo cual puede resultar rígido en ocasiones, con usuarios que luchan por profundizar en métricas específicas y dependen de analistas a menudo saturados para obtener más insights.

Para abordar esta brecha, muchas empresas comenzaron a explorar el potencial de los grandes modelos de lenguaje que han sido efectivos para extraer insights de datos no estructurados. La idea era pasar el esquema de datos estructurados a través de los modelos para impulsar una experiencia conversacional basada en texto a SQL, permitiendo a los usuarios interactuar instantáneamente con sus datos y formular preguntas relevantes de negocio.

Snowflake identificó un problema fundamental con estas ofertas impulsadas por LLM: la baja precisión. Según bancos de pruebas internos de la compañía, al utilizar modelos de última generación como GPT-4o directamente, la precisión de los insights analíticos era del 51%, mientras que las secciones dedicadas de texto a SQL, incluyendo Genie de Databricks, lograban el 79% de precisión. Por tanto, para dar respuesta a esta problemática, Snowflake desarrolló Cortex Analyst, una solución que alcanza una precisión del 90% gracias a una serie de grandes modelos de lenguaje que colaboran estrechamente entre sí.

Cortex Analyst, al integrarse en una aplicación empresarial, captura consultas de negocio en lenguaje natural y las pasa a través de agentes LLM situados en diferentes niveles para ofrecer respuestas precisas, libres de alucinaciones, basadas en los datos de la empresa en la nube de Snowflake. Estos agentes manejan tareas diferentes, desde analizar la intención de la pregunta y determinar si se puede responder, hasta generar y ejecutar la consulta SQL a partir de ella y verificar la corrección de la respuesta antes de devolvérsela al usuario.

Snowflake ha confirmado que Cortex Analyst utilizará su propio modelo Arctic junto con los modelos de Mistral y Meta. Para garantizar que los agentes LLM comprendan el esquema completo de la estructura de datos de un usuario y proporcionen respuestas precisas y contextualizadas, la compañía requiere que los clientes proporcionen descripciones semánticas de sus activos de datos durante la fase de configuración. Esto resuelve un problema asociado con los esquemas en bruto y permite a los modelos capturar la intención de la pregunta, incluido el vocabulario y la jerga específica del usuario.

Actualmente, Snowflake ofrece acceso a Cortex Analyst como una API REST que se puede integrar en cualquier aplicación, brindando a los desarrolladores la flexibilidad para adaptar cómo y dónde los usuarios empresariales acceden al servicio e interactúan con los resultados. Además, se puede utilizar Streamlit para construir aplicaciones dedicadas utilizando Cortex Analyst como motor central.

En la fase de previsualización pública, unas 40-50 empresas, incluida la farmacéutica Bayer, implementaron Cortex Analyst para interactuar con sus datos y acelerar los flujos de trabajo analíticos. Se espera que la previsualización pública aumente este número, sobre todo en un contexto en el que las empresas siguen centrándose en adoptar LLMs sin incurrir en costes excesivos. Este servicio proporcionará a las empresas la potencia de los LLMs para análisis sin necesidad de llevar a cabo todo el proceso de implementación y los costos asociados.

Snowflake también ha confirmado que en los próximos días se añadirán más características, incluido el soporte para conversaciones de múltiples turnos para una experiencia interactiva y tablas y esquemas más complejos.