Redacción - El Semanal
El enfrentamiento por la seguridad de la inteligencia artificial entre Yann LeCun y Geoffrey Hinton ha cobrado relevancia en California. Mientras LeCun, científico jefe de inteligencia artificial en Meta, criticó públicamente el polémico proyecto de ley de seguridad de IA, SB 1047, Hinton, conocido como el «padrino de la IA», respaldó la legislación. Esta divergencia entre dos pioneros en inteligencia artificial resalta las profundas divisiones dentro de la comunidad de IA sobre el futuro de la regulación.
El proyecto de ley SB 1047, aprobado por la legislatura de California y pendiente de la firma del gobernador Gavin Newsom, ha generado un intenso debate sobre la regulación de la IA. Esta ley establecería la responsabilidad de los desarrolladores de modelos de IA a gran escala que causen daños catastróficos si no han tomado las medidas de seguridad adecuadas. La legislación se aplica solo a modelos con un costo de entrenamiento de al menos $100 millones y que operan en California, la quinta economía más grande del mundo.
LeCun, reconocido por su trabajo pionero en aprendizaje profundo, argumentó que muchos de los partidarios del proyecto de ley tienen una «visión distorsionada» de las capacidades a corto plazo de la IA. Sus comentarios fueron una respuesta directa al respaldo de Hinton a una carta abierta firmada por más de 100 empleados actuales y anteriores de empresas líderes en IA, como OpenAI, Google DeepMind y Anthropic. Esta carta, presentada al gobernador Newsom el 9 de septiembre, instaba a firmar el SB 1047 en ley, citando posibles «riesgos graves» provocados por modelos de IA poderosos, como el acceso ampliado a armas biológicas y ciberataques a infraestructuras críticas.
El debate en torno al SB 1047 ha desordenado las alianzas políticas tradicionales. A pesar de las críticas anteriores del autor del proyecto de ley, el senador estatal Scott Wiener, Elon Musk se ha sumado a los partidarios, mientras que opositores incluyen a la oradora emérita Nancy Pelosi y la alcaldesa de San Francisco, London Breed, junto con varias grandes empresas tecnológicas y capitalistas de riesgo.
Antes contrario al proyecto de ley, Anthropic, una empresa de IA, cambió su postura después de algunas enmiendas, indicando que los «beneficios del proyecto probablemente superen sus costos». Esta evolución destaca la naturaleza cambiante de la legislación y las negociaciones en curso entre los legisladores y la industria tecnológica.
En resumen, el choque entre LeCun y Hinton refleja el debate más amplio sobre la seguridad y regulación de la IA y subraya el desafío que enfrentan los legisladores al redactar una legislación que aborde preocupaciones legítimas de seguridad sin obstaculizar indebidamente el progreso tecnológico. La decisión de Newsom sobre el SB 1047 no solo dará forma al futuro del desarrollo de la IA en California, sino que también podría influir en si Estados Unidos adopta un enfoque más proactivo o pasivo hacia la regulación de IA a nivel federal.
GIPHY App Key not set. Please check settings