Vectara Portal simplifica la creación de aplicaciones de IA para hablar con datos.

Vectara Portal ayuda a los no desarrolladores a crear aplicaciones de IA para chatear con datos: Así es cómo usarlo

Vectara acaba de simplificar el desarrollo de IA generativa. La empresa con sede en Palo Alto, California, y pionera en el espacio de generación aumentada recuperada (RAG), ha anunciado Vectara Portal, un entorno de código abierto que permite a cualquier persona construir aplicaciones de IA para interactuar con sus datos.

Aunque existen muchas ofertas comerciales que ayudan a los usuarios a obtener respuestas instantáneas de documentos, lo que distingue a Vectara Portal es su facilidad de acceso y uso. Con solo unos pocos pasos básicos, cualquier persona, independientemente de sus habilidades técnicas o conocimientos, puede tener a su disposición una aplicación de búsqueda, resumen o chat, basada en sus conjuntos de datos. No es necesario escribir ni una sola línea de código.

Esta propuesta tiene el potencial de permitir a los no desarrolladores impulsar varios casos de uso dentro de sus organizaciones, desde la búsqueda de pólizas hasta facturas. Sin embargo, es importante señalar que el rendimiento aún está en duda, ya que la herramienta es muy nueva y solo unos pocos clientes la están probando en fase beta.

Ofer Mendelevitch, jefe de relaciones con los desarrolladores de Vectara, dice a VentureBeat que, dado que Portal está impulsado por la plataforma propietaria de RAG de Vectara, esperan ver una adopción masiva por parte de los no desarrolladores. Esto conducirá a una mayor tracción para las ofertas empresariales de alta calidad de la compañía.

«Estamos observando con entusiasmo qué construirán los usuarios con Vectara Portal. Esperamos que el nivel de precisión y relevancia enriquecido por sus documentos muestre el completo poder de los sistemas RAG empresariales (de Vectara)», dijo.

¿Cómo funciona Vectara Portal?

El portal está disponible como una aplicación alojada por Vectara, así como una oferta de código abierto bajo la licencia Apache 2.0. Vectara Portal se basa en la idea de que los usuarios crean portales (aplicaciones personalizadas) y luego los comparten con su audiencia objetivo para su uso.

Primero, el usuario debe crear una cuenta en el Portal con sus credenciales principales de Vectara y configurar ese perfil con su ID de Vectara, clave API e ID de cliente de OAuth. Una vez que el perfil está listo, el usuario solo tiene que dirigirse al botón «crear un portal» y completar detalles básicos como el nombre de la aplicación planificada, su descripción y si se supone que debe funcionar como una herramienta de búsqueda semántica, una aplicación de resumen o un asistente de chat conversacional. Después de esto, al hacer clic en el botón de crear, se agregará a la página de gestión del Portal de la herramienta.

Desde la pantalla de gestión del Portal, el usuario abre el portal creado, ingresa a su configuración y agrega cualquier cantidad de documentos para personalizar la aplicación con sus datos. Cuando estos archivos se cargan, son indexados por la plataforma RAG como servicio de Vectara, que alimenta la parte posterior del portal para proporcionar respuestas precisas y libres de alucinaciones.

El jefe de relaciones con los desarrolladores señaló que cuando un usuario crea un portal y agrega documentos, la parte posterior de la herramienta construye un «corpus» específico para esos datos en la cuenta principal de Vectara del usuario. Este corpus actúa como un lugar para almacenar todos los documentos asociados al portal. Por lo tanto, cuando un usuario hace una pregunta en el portal, la API de RAG de Vectara ejecuta esa consulta contra el corpus asociado para ofrecer la respuesta más relevante.

El platform recoge primero las partes más relevantes de los documentos (en el paso de recuperación) que se necesitan para responder a la pregunta del usuario y luego las alimenta en el gran modelo de lenguaje (LLM). Vectara ofrece a los usuarios la opción de elegir entre diferentes LLM, incluido el propio LLM de Vectara Mockingbird, así como los de OpenAI.

Para los clientes de Vectara Scale (plan más grande de la empresa), Portal utiliza las mejores características de Vectara, incluidos los LLM más eficientes. Las aplicaciones son por defecto públicas y compartibles a través de enlaces, pero los usuarios también pueden restringirlas a un grupo selecto de usuarios.

Meta de aumentar clientes empresariales

Con esta oferta sin código, tanto como producto alojado como de código abierto, Vectara busca dar a más usuarios empresariales la capacidad de construir potentes aplicaciones de IA generativa dirigidas a diferentes casos de uso. La compañía espera que esto aumente las inscripciones y cree un revuelo para su oferta principal de RAG como servicio, lo que finalmente conducirá a una mejor conversión.

«RAG es un caso de uso muy sólido para muchos desarrolladores empresariales y queríamos abrir esto a los constructores sin código para que puedan comprender el poder de la plataforma de extremo a extremo de Vectara. Portal hace exactamente eso, y creemos que será una herramienta valiosa para los gerentes de producto, gerentes generales y otros ejecutivos de nivel C para comprender cómo Vectara puede ayudar con sus casos de uso de IA generativa», dijo Mendelevitch.

Hasta el momento, la empresa ha recaudado más de $ 50 millones en financiamiento y cuenta aproximadamente con 50 clientes en producción, incluidos Obeikan Group, Juniper Networks, Sonosim y Qumulo.