AI21 lanza Jamba 1.5, potenciando modelo transformer híbrido para IA con agencia.

AI21 presenta Jamba 1.5, potenciando el modelo híbrido Transformer SSM para permitir la inteligencia artificial agente

AI21 ha lanzado hoy nuevas versiones de su modelo Jamba, que combina transformadores con un enfoque de modelo de Espacio de Estado Estructurado (SSM). Las nuevas versiones Jamba 1.5 mini y Jamba 1.5 large se basan en las innovaciones iniciales que la compañía presentó con el lanzamiento de Jamba 1.0 en marzo. Jamba utiliza un enfoque SSM conocido como Mamba. El objetivo de Jamba es combinar las mejores cualidades de los transformadores y SSM. El nombre Jamba es en realidad un acrónimo que significa Atención Conjunta y arquitectura Mamba. La promesa de la arquitectura SSM Transformer combinada es ofrecer un rendimiento y precisión mejores que los que cada enfoque puede proporcionar por separado.

Con la serie Jamba 1.5, AI21 está agregando más capacidades al modelo, incluyendo llamada de funciones, modo JSON, objetos de documento estructurado y modo de citación. La compañía espera que estas nuevas incorporaciones hagan que los dos modelos sean ideales para la creación de sistemas de IA agentes. Ambos modelos también tienen una ventana de contexto amplia de 256K y son modelos Mixture-of-Experts (MoE). Jamba 1.5 mini ofrece un total de 52 mil millones de parámetros y 12 mil millones de parámetros activos. Jamba 1.5 large tiene 398 mil millones de parámetros en total y 94 mil millones de parámetros activos.

Ambos modelos Jamba 1.5 están disponibles bajo una licencia abierta. AI21 también proporciona soporte comercial y servicios para los modelos. La compañía también tiene asociaciones con AWS, Google Cloud, Microsoft Azure, Snowflake, Databricks y Nvidia.

Novedades en Jamba 1.5 y cómo acelerará la IA agente

Jamba 1.5 Mini y Large introducen una serie de nuevas funcionalidades diseñadas para satisfacer las necesidades cambiantes de los desarrolladores de IA:

– Modo JSON para el manejo de datos estructurados
– Citas para una responsabilidad mejorada
– API de documentos para una gestión de contexto mejorada
– Capacidades de llamada de funciones

Según Dagan, estas adiciones son particularmente cruciales para los desarrolladores que trabajan en sistemas de IA agentes. Los desarrolladores suelen usar ampliamente JSON (JavaScript Object Notation) para acceder y crear flujos de trabajo de aplicaciones.

Dagan explicó que la adición de soporte JSON permite a los desarrolladores construir relaciones estructuradas de entrada/salida entre diferentes partes de un flujo de trabajo de manera más fácil. Destacó que el soporte JSON es crucial para sistemas de IA más complejos que van más allá de solo usar el modelo de lenguaje por sí solo. Por otro lado, la función de citación trabaja en conjunto con la nueva API de documentos.

«Podemos enseñar al modelo que cuando se genera algo y tiene documentos en su entrada, atribuya las partes relevantes a los documentos», dijo Dagan.

Cómo el modo de citación es diferente a RAG, ofreciendo un enfoque integrado para la IA agente

Los usuarios no deben confundir el modo de citación con Retrieval Augmented Generation (RAG), aunque ambos enfoques fundamentan las respuestas en datos para mejorar la precisión.

Dagan explicó que el modo de citación en Jamba 1.5 está diseñado para trabajar en conjunto con la API de documentos del modelo, proporcionando un enfoque más integrado en comparación con los flujos de trabajo RAG tradicionales. En una configuración típica de RAG, los desarrolladores conectan el modelo de lenguaje a una base de datos vectorial para acceder a documentos relevantes para una consulta o tarea específica. El modelo luego necesita aprender a incorporar de manera efectiva esa información recuperada en su generación.

En cambio, el modo de citación en Jamba 1.5 está más estrechamente integrado con el propio modelo. Esto significa que el modelo está entrenado no solo para recuperar e incorporar documentos relevantes, sino también para citar explícitamente las fuentes de la información que utiliza en su salida. Esto proporciona más transparencia y trazabilidad en comparación con un flujo de trabajo de LLM tradicional, donde el razonamiento del modelo puede ser más opaco.

AI21 también ofrece soporte para RAG. Dagan señaló que su compañía ofrece su propia solución RAG de extremo a extremo como un servicio gestionado que incluye la recuperación de documentos, la indexación y otros componentes necesarios.

Mirando hacia el futuro, Dagan señaló que AI21 seguirá trabajando en el avance de sus modelos para satisfacer las necesidades de los clientes. También habrá un enfoque continuo en habilitar la IA agente.

Hazte miembro de nuestras newsletters diarias y semanales para las últimas actualizaciones y contenido exclusivo sobre la cobertura líder en la industria de la IA. Para obtener más información al respecto, visita nuestra página web.