OpenAI advierte sobre un riesgo bajo en su tecnología, según nuevas investigaciones.

La empresa líder en inteligencia artificial, OpenAI, ha publicado un informe que revela la evaluación de riesgos de su nuevo sistema GPT-4o. Esta acción ha generado intensas críticas y escrutinio por parte de la comunidad, especialmente en lo que respecta a la seguridad y transparencia de la empresa.

La importancia de este informe radica en las preocupaciones cada vez mayores sobre el potencial de la inteligencia artificial para generar y manipular información, así como su uso en formas inesperadas. OpenAI ha contratado un equipo de expertos externos en seguridad, conocidos como «Red Teamers», para identificar y evaluar los posibles riesgos asociados con su modelo.

En este contexto, la evaluación de seguridad de GPT-4o ha revelado que el riesgo general se considera «moderado», con la categoría de persuasión siendo la de mayor preocupación. Sorprendentemente, en algunos casos, GPT-4o puede ser más convincente que el texto escrito por humanos, lo que plantea serios desafíos éticos y de seguridad en cuanto a la manipulación de la opinión pública.

La senadora estadounidense Elizabeth Warren ha solicitado aclaraciones sobre las prácticas de seguridad de OpenAI, especialmente en vista de las próximas elecciones presidenciales en Estados Unidos. La posibilidad de que la inteligencia artificial sea utilizada para difundir información errónea o manipulada es una preocupación creciente.

Además, OpenAI ha lanzado una nueva escala interna para medir el progreso de sus modelos de IA, lo que se considera un paso importante hacia la creación de una inteligencia artificial general. Esta escala contempla cinco niveles, desde sistemas conversacionales hasta aquellos capaces de ejecutar el trabajo de una organización completa.

En definitiva, el avance de la inteligencia artificial plantea desafíos éticos, sociales y de seguridad que requieren una mayor transparencia y responsabilidad por parte de las empresas desarrolladoras. El camino hacia la inteligencia artificial general es prometedor, pero también plantea interrogantes sobre cómo garantizar un uso seguro y beneficioso de esta tecnología.