La administración Biden vigila modelos de peso abierto para protección.

La administración de Biden tiene previsto monitorear los modelos de inteligencia artificial abiertos

La administración de Biden ha solicitado el monitoreo de los modelos de inteligencia artificial abiertos mientras busca recopilar más información para futuras regulaciones. Sin embargo, el gobierno de los Estados Unidos no especificó cómo planea regular dichos modelos.

Según un informe de la Administración Nacional de Telecomunicaciones e Información (NTIA, por sus siglas en inglés), es importante analizar los peligros de los modelos de IA públicos con la capacidad de interrumpir los sistemas actuales para comprender cómo prevenir posibles desastres.

A pesar de ello, la NTIA admitió que Estados Unidos «actualmente no cuenta con la capacidad para monitorear y responder de manera efectiva a muchos de los riesgos derivados de los modelos fundamentales». Ante esta situación, la NTIA sugirió tres áreas principales en las que enfocarse: recopilar evidencia sobre las capacidades del modelo para monitorear riesgos específicos, evaluar y comparar indicadores, y adoptar políticas que se centren en estos riesgos.

La NTIA define los modelos de peso abierto como modelos fundamentales cuyos pesos o parámetros han sido públicamente difundidos y que los usuarios pueden descargar. Estos difieren de los modelos de código abierto, donde los modelos están bajo una licencia abierta y pueden ser replicados, a pesar de lo que los desarrolladores de modelos de IA quieren hacer creer.

«La consideración del riesgo marginal es útil para evitar apuntar a modelos fundamentales de uso dual con pesos ampliamente disponibles con restricciones que sean más estrictas de lo necesario en comparación con sistemas alternativos que planteen un equilibrio similar entre beneficios y riesgos», afirmó la NTIA.

La agencia agregó además que comprende que tanto los modelos abiertos como los cerrados tienen riesgos que deben ser gestionados, pero los modelos abiertos «pueden presentar oportunidades y desafíos únicos para reducir riesgos».

El hecho de que la administración de Biden esté investigando los riesgos que plantean los modelos abiertos podría señalar un enfoque regulatorio similar al que la Unión Europea comenzó a esbozar con su Ley de IA.

La Ley de IA de la UE, adoptada formalmente por su parlamento en marzo, regula los modelos de IA en función de lo arriesgados que sean los casos de uso, en lugar de los propios modelos. Por ejemplo, la UE estableció multas sustanciales para las empresas que utilicen la IA para el reconocimiento facial. La UE había considerado regular los modelos, por lo que Estados Unidos, al considerar cuidadosamente los posibles peligros de los modelos de IA públicos, podría seguir los pasos de la UE.

Kevin Bankston, asesor senior sobre gobernanza de IA en el Centro para la Tecnología y la Democracia, elogió a la NTIA por tomarse su tiempo en cómo regular los modelos de IA. En un correo electrónico, Bankston dijo: «La NTIA concluyó correctamente que aún no hay suficiente evidencia de riesgos novedosos en los modelos fundamentales abiertos para justificar nuevas restricciones en su distribución».

Los desarrolladores de modelos aún tienen que esperar

La administración de Biden ha creado directrices en torno al uso de la IA con la Orden Ejecutiva de IA. Sin embargo, dicha orden aún no está regulada. Algunos legisladores y estados han propuesto políticas potenciales. Como ejemplo, los senadores del estado de California, donde se encuentran muchos desarrolladores de IA, incluido OpenAI, presentaron la «Ley de Innovación Segura y Segura para Modelos de IA de Frontera», la cual muchos creen que podría frenar el desarrollo de la IA al castigar a empresas más pequeñas que trabajan con modelos fundamentales.

Los desarrolladores de modelos de IA no tienen mucho de qué preocuparse todavía, ya que la NTIA sigue en una misión de recopilación de datos.

Assaf Melochna, fundador de la empresa de IA Aquant, afirmó en un correo electrónico a VentureBeat que las observaciones de la NTIA no cambian mucho para los desarrolladores de modelos.

«Los desarrolladores aún pueden lanzar los pesos de sus modelos a su entera discreción, pero estarán bajo mayor escrutinio», dijo Melochna. «El sector cambia constantemente, por lo que las agencias federales deben mantenerse flexibles y adaptarse en función de lo que descubran».