Redacción - El Semanal
El avance de la inteligencia artificial ha sido un tema de creciente relevancia en el ámbito de la ciberseguridad. Con la emergencia de los modelos de lenguaje de gran tamaño (LLMs) como una amenaza cada vez más sofisticada y desafiante, la empresa Meta ha presentado CyberSecEval 3, una nueva suite de pruebas de seguridad diseñada para evaluar los riesgos y capacidades de los LLMs en términos de ciberseguridad.
Esta evaluación comprende ocho riesgos diferentes, divididos en dos categorías principales: riesgos para terceros y riesgos para desarrolladores de aplicaciones y usuarios finales. En comparación con trabajos anteriores, Meta ha incorporado nuevas áreas centradas en capacidades de seguridad ofensiva, como ingeniería social automatizada, escalado de operaciones ofensivas cibernéticas manuales y operaciones ofensivas cibernéticas autónomas.
El equipo de CyberSecEval 3 de Meta probó el modelo Llama 3 en diversos riesgos de ciberseguridad clave para resaltar vulnerabilidades, incluyendo phishing automatizado y operaciones ofensivas. Todos los elementos no manuales y salvaguardias, como CodeShield y LlamaGuard 3 mencionados en el informe, están disponibles públicamente para garantizar transparencia y aportes de la comunidad.
La meta principal detrás de CyberSecEval 3 es anticiparse a las amenazas de los LLMs weaponizados. La rápida evolución del modus operandi de atacantes maliciosos con LLMs representa un desafío constante para muchas empresas, directores de seguridad de la información y líderes en materia de seguridad. El informe integral de Meta publicado el mes pasado argumenta de forma convincente la necesidad de tomar medidas preventivas ante las crecientes amenazas de los LLMs weaponizados.
Entre las estrategias propuestas para combatir estos LLMs weaponizados se encuentran desplegar LlamaGuard 3 y PromptGuard para reducir los riesgos inducidos por IA, mejorar la supervisión humana en operaciones cibernéticas de IA, fortalecer las defensas contra el phishing, invertir en formación continua en seguridad y adoptar un enfoque de seguridad multicapa. Estas estrategias se basan en el marco CyberSecEval 3 y buscan abordar los riesgos más urgentes planteados por los LLMs weaponizados.
En resumen, Meta está a la vanguardia en la evaluación de riesgos de ciberseguridad y capacidades en los modelos de lenguaje de gran tamaño. Su enfoque integral y proactivo en la identificación y mitigación de vulnerabilidades demuestra la importancia de estar preparados frente a las amenazas cibernéticas emergentes. La adopción de estrategias como las mencionadas anteriormente puede ayudar a las organizaciones a protegerse de los ciberataques impulsados por la inteligencia artificial.
GIPHY App Key not set. Please check settings