Lasso Security Revoluciona la Seguridad en el Campus Universitario

La seguridad de Lasso establece un nuevo estándar en la protección de LLMs

La creciente necesidad de integración de modelos de lenguaje de gran tamaño (LLMs) en estrategias de inteligencia artificial a largo plazo ha llevado a las empresas a depender de marcos de generación con recuperación aumentada (RAG) que requieren una mayor seguridad contextual para satisfacer las crecientes demandas de integración.

Proteger los RAGs requiere inteligencia contextual

Sin embargo, las técnicas tradicionales de control de acceso a RAG no están diseñadas para ofrecer un control contextual. La falta de control de acceso nativo de los RAGs plantea un riesgo significativo de seguridad para las empresas, ya que podría permitir a usuarios no autorizados acceder a información sensible.

El Control de Acceso Basado en Roles (RBAC) carece de la flexibilidad para adaptarse a las solicitudes contextuales, y el Control de Acceso Basado en Atributos (ABAC) es conocido por su limitada escalabilidad y mayores costos de mantenimiento. Lo que se necesita es un enfoque más inteligente contextualmente para proteger los marcos de RAG que no obstaculice la velocidad y escala.

Lasso Security comenzó a ver estas limitaciones con los LLMs temprano y desarrolló el Control de Acceso Basado en el Contexto (CBAC) como respuesta a los desafíos de mejorar el acceso contextual. El CBAC de Lasso Security es notable por su enfoque innovador para evaluar dinámicamente el contexto de todas las solicitudes de acceso a un LLM. La empresa le dijo a VentureBeat que el CBAC evalúa las solicitudes de acceso, respuesta, interacción, comportamiento y modificación de datos para garantizar una seguridad integral, prevenir el acceso no autorizado y mantener altos estándares de seguridad en los marcos de LLM y RAG. El objetivo es asegurar que solo los usuarios autorizados puedan acceder a información específica.

¿Qué es la Generación con Recuperación Aumentada (RAG)?

En 2020, investigadores de Facebook AI Research, University College London y New York University escribieron un artículo titulado "Generación con Recuperación Aumentada para Tareas de Procesamiento del Lenguaje Natural Intensivas en Conocimiento", definiendo la Generación con Recuperación Aumentada (RAG) como "Dotamos a los modelos generativos paramétricos pre-entrenados de una memoria no paramétrica a través de un enfoque de ajuste fino de propósito general al que nos referimos como generación con recuperación aumentada (RAG). Construimos modelos RAG donde la memoria paramétrica es un transformador seq2seq pre-entrenado, y la memoria no paramétrica es un índice de vectores densos de Wikipedia, accedido con un recuperador neural pre-entrenado".

"La generación con recuperación aumentada (RAG) es una forma práctica de superar las limitaciones de los modelos generales de lenguaje de gran tamaño (LLMs) al hacer que los datos e información empresariales estén disponibles para el procesamiento de LLM", escribe Gartner en su informe reciente "Iniciar con la Generación con Recuperación Aumentada". La siguiente gráfica de Gartner explica cómo funciona un RAG:


Cómo Lasso Security diseñó CBAC con RAG

"Diseñamos CBAC para funcionar de forma independiente o conectada a nuestros productos. Puede integrarse con Active Directory o utilizarse de forma independiente con una configuración mínima. Esta flexibilidad asegura que las organizaciones puedan adoptar CBAC sin modificaciones extensas en su infraestructura de LLM", dijo Dror.

Si bien fue diseñado como una solución independiente, Lasso Security también lo diseñó para integrarse con su suite de seguridad gen AI, que ofrece protección para el uso de chatbots basados en gen AI por parte de los empleados, aplicaciones, agentes, asistentes dode y modelos integrados en entornos de producción. Independientemente de cómo despliegue los LLMs, Lasso Security monitorea cada interacción que involucra la transferencia de datos hacia o desde el LLM. También identifica rápidamente cualquier anomalía o violación de las políticas organizativas, garantizando un entorno seguro y cumplidor en todo momento.

Dror explicó que CBAC está diseñado para monitorear y evaluar continuamente una amplia variedad de señales contextuales para determinar las políticas de control de acceso, asegurando que solo los usuarios autorizados tengan privilegios de acceso a información específica, incluso en documentos e informes que contienen datos actualmente relevantes y fuera de alcance.

Los desafíos de seguridad a los que se enfrenta CBAC

"Ahora vemos muchas empresas que ya recorrieron la distancia y construyeron un RAG, incluida la arquitectura de un chatbot RAG, y ahora están enfrentando los problemas de quién puede preguntar qué, quién puede ver qué, quién puede obtener qué", dijo Dror.

Dror dice que la creciente adopción de RAG también está haciendo que las limitaciones de los LLMs y los problemas que causan se vuelvan más urgentes. Las alucinaciones y la dificultad de entrenar a los LLMs con nuevos datos también han surgido, ilustrando aún más lo desafiante que es resolver el problema de permisos de RAG. CBAC fue inventado para hacer frente a estos desafíos y proporcionar los conocimientos contextuales necesarios para lograr un enfoque más dinámico para el control de acceso.

Con RAG como piedra angular de las estrategias actuales y futuras de LLM y de inteligencia artificial más amplia de las organizaciones, la inteligencia contextual demostrará ser un punto de inflexión en cómo se protegen y escalan sin afectar el rendimiento.