Credo AI simplifica el gobierno de proyectos de IA en Amazon y Microsoft

La compañía de gobernanza de AI, Credo AI, ha lanzado una nueva plataforma que se integra con herramientas de AI Ops de terceros para obtener una mejor visibilidad en torno a las políticas de AI responsables.

El nuevo hub de integraciones de Credo AI, ahora disponible en general, permite a los clientes empresariales conectar plataformas donde construyen aplicaciones de AI generativas como Amazon Sagemaker, MLFlow y Microsoft Dynamics 365 a una plataforma centralizada de gobernanza. Además, también se pueden agregar plataformas donde estas aplicaciones suelen desplegarse, como Asana, ServiceNow o Jira, al Hub de Integraciones.

La premisa es que las empresas que trabajan en aplicaciones de AI pueden utilizar el Hub de Integraciones para conectarse a una plataforma central de gobernanza como la de Credo AI. En lugar de necesitar subir documentación que demuestre los estándares de seguridad, el Hub de Integraciones recopilará metadatos de las aplicaciones que contienen esas métricas.

Según Navrina Singh, fundadora y CEO de Credo AI, el hub de integraciones fue diseñado para hacer que la gobernanza de AI, ya sea siguiendo reglas de divulgación de datos o políticas internas sobre el uso de AI, se convierta en parte del proceso de desarrollo desde el principio.

Credo AI afirmó que el Hub de Integraciones se conectará directamente con almacenes de modelos existentes, que luego se cargarán automáticamente en la plataforma de gobernanza para controles de cumplimiento. Además, el hub también traerá conjuntos de datos para propósitos de gobernanza.

Estudios han demostrado que la AI responsable y la gobernanza de AI, que normalmente analiza cómo las aplicaciones cumplen con regulaciones, consideraciones éticas y controles de privacidad, se han convertido en una prioridad para muchas empresas. Sin embargo, pocas empresas han evaluado estos riesgos.

A medida que las empresas luchan por ser más responsables en torno a la AI generativa, proporcionar formas para que las organizaciones puedan averiguar fácilmente los riesgos y problemas de cumplimiento se ha convertido en un nuevo nicho para muchas empresas. Credo AI es solo una de las compañías que ofrecen diferentes vías para hacer que la AI responsable sea fácilmente accesible.