OpenAI publica esperado recurso anhelado por los desarrolladores.

OpenAI ha lanzado finalmente la característica número uno que los desarrolladores han estado desesperados por tener. La estructura de datos y el formato de intercambio de archivos JavaScript Object Notation (JSON) es un estándar de la industria debido a su fácil legibilidad para humanos y su capacidad de ser analizado por máquinas.

A pesar de esto, los grandes modelos de lenguaje (LLMs) suelen tener dificultades con JSON: podrían alucinar, crear respuestas incoherentes que solo se adhieren parcialmente a las instrucciones o fallar en el análisis por completo. Esto a menudo obliga a los desarrolladores a usar soluciones alternativas como herramientas de código abierto, múltiples solicitudes o solicitudes repetidas para garantizar la interoperabilidad de la salida.

Para aliviar estas frustraciones, OpenAI ha lanzado su Funcionalidad de Salida Estructurada en la API. Esta nueva funcionalidad ayuda a garantizar que las salidas generadas por el modelo cumplan con los Esquemas JSON. Estos esquemas son críticos porque describen el contenido, la estructura, los tipos de datos y las restricciones esperadas en un documento JSON dado.

Según OpenAI, esta es la característica número uno que los desarrolladores han estado solicitando, ya que permite la consistencia en diversas aplicaciones. El CEO de OpenAI, Sam Altman, mencionó en X que el lanzamiento se realizó a petición popular.

La compañía afirmó que sus evaluaciones con Salidas Estructuradas en su nuevo GPT-4o obtienen una puntuación de «100% perfecta».

El anuncio de esta nueva característica llega después de mucha emoción en OpenAI esta semana: tres ejecutivos clave, John Schulman, Greg Brockman y Peter Deng, anunciaron repentinamente su partida, y Elon Musk está demandando nuevamente a la compañía, calificando la traición a su misión de IA como «shakesperiana».

Facilitando la conformidad del esquema

JSON es un formato basado en texto para almacenar y intercambiar datos. Se ha convertido en uno de los formatos de datos más populares entre los desarrolladores debido a que es simple, flexible y compatible con varios lenguajes de programación. OpenAI rápidamente satisfizo la demanda de los desarrolladores cuando lanzó su modo JSON en sus modelos en el DevDay del año pasado.

Con las Salidas Estructuradas en la API, los desarrolladores pueden restringir los modelos de OpenAI para que se ajusten a los esquemas. OpenAI afirma que la característica también permite que sus modelos comprendan mejor esquemas más complicados.

Las Salidas Estructuradas son la evolución del modo JSON, ya que garantizan que se produzca JSON válido y que se cumpla con el esquema. Esto significa que los desarrolladores «no tienen que preocuparse por el modelo omitiendo una clave requerida o alucinando un valor de enumeración no válido».

Los desarrolladores pueden solicitar a las Salidas Estructuradas generar una respuesta de manera paso a paso para guiar hacia la salida deseada. Según OpenAI, los desarrolladores no necesitan validar ni volver a intentar respuestas con formato incorrecto, y la característica permite una generación de indicaciones más simple al tiempo que proporciona rechazos explícitos.

«La seguridad es una prioridad para OpenAI: la nueva funcionalidad de Salidas Estructuradas cumplirá con nuestras políticas de seguridad existentes y aún permitirá que el modelo rechace una solicitud insegura», escribe la compañía.

Las Salidas Estructuradas están disponibles en GPT-4o-mini, GPT-4o y en versiones ajustadas de estos modelos, y se pueden utilizar en la API de Completado de Chat, la API de Asistentes y la API de Lotes, siendo también compatible con entradas visuales.

OpenAI enfatiza que la nueva funcionalidad «toma inspiración del excelente trabajo de la comunidad de código abierto, en particular de las bibliotecas outlines, jsonformer, instructor, guidance y lark».