La Universidad de MIT publica base de datos sobre riesgos de inteligencia artificial.

El Instituto de Tecnología de Massachusetts (MIT) ha lanzado una base de datos exhaustiva de los riesgos asociados con la inteligencia artificial, con el objetivo de ayudar a las organizaciones a comprender y gestionar los peligros que pueden surgir al utilizar sistemas de IA. Esta iniciativa surge en un momento en el que la investigación y la adopción de la inteligencia artificial continúan avanzando a un ritmo acelerado, lo que significa que es crucial abordar de manera efectiva los riesgos que conlleva esta tecnología.

A pesar de que varios organismos y académicos han reconocido la importancia de abordar los riesgos de la IA, los esfuerzos para documentar y clasificar estos riesgos han sido en gran medida descoordinados, lo que ha generado un paisaje fragmentado de sistemas de clasificación conflictivos. La Base de Datos de Riesgos de IA del MIT busca resolver este desafío al consolidar información de 43 taxonomías existentes, incluyendo artículos revisados por pares, preimpresos, ponencias de conferencias e informes, resultando en una base de datos con más de 700 riesgos únicos.

Esta base de datos emplea un sistema de clasificación bidimensional donde los riesgos se categorizan según sus causas, considerando el responsable (humano o IA), la intención (intencional o no intencional) y el momento del riesgo (previo o posterior a la implementación). Asimismo, los riesgos se clasifican en siete dominios distintos que incluyen discriminación y toxicidad, privacidad y seguridad, desinformación y actores maliciosos y uso indebido.

La Base de Datos de Riesgos de IA está diseñada para ser un recurso práctico para organizaciones de diversos sectores. Aquellas empresas que desarrollan o implementan sistemas de IA pueden utilizar esta base de datos como una lista de verificación valiosa para la evaluación y mitigación de riesgos. Si bien la base de datos ofrece una base completa, las organizaciones deberán adaptar sus estrategias de evaluación y mitigación de riesgos a sus contextos específicos.

Además de tener implicaciones prácticas para las organizaciones, la Base de Datos de Riesgos de IA también es un recurso valioso para los investigadores de riesgos de IA. La base de datos y las taxonomías proporcionan un marco estructurado para sintetizar información, identificar lagunas en la investigación y guiar investigaciones futuras.

El equipo de investigación planea utilizar la Base de Datos de Riesgos de IA como base para la siguiente fase de su investigación, identificando posibles vacíos o desequilibrios en la forma en que las organizaciones abordan los riesgos. Además, se comprometen a mantener actualizada la base de datos a medida que evolucione el panorama de riesgos de IA, asegurando que siga siendo un recurso útil para investigadores, responsables políticos y profesionales de la industria que trabajan en la mitigación de riesgos relacionados con la inteligencia artificial.