Expertos en IA advierten que la superinteligencia plantea riesgos existenciales inminentes para la humanidad

Una docena de investigadores de primera línea, vinculados a gigantes tecnológicos como OpenAI, Google DeepMind y Anthropic, han roto su silencio corporativo para lanzar una advertencia que trasciende el debate técnico habitual. A través de una serie de entrevistas publicadas por la organización sin ánimo de lucro Palisade Research, estos expertos han puesto sobre la mesa un escenario que hasta hace poco se consideraba ciencia ficción: la posibilidad real de que el desarrollo de la Inteligencia Artificial alcance un punto de no retorno capaz de comprometer la supervivencia de nuestra especie.

El dilema de la extinción ante el avance de la superinteligencia

Las cifras arrojadas por los entrevistados son alarmantes y revelan una fractura profunda dentro de los laboratorios que lideran la carrera tecnológica. Geoffrey Irving, ex empleado de OpenAI y Google DeepMind, sitúa la probabilidad de una catástrofe existencial en un nivel equiparable al lanzamiento de una moneda al aire. Por su parte, Neel Nanda, científico de investigación en Google DeepMind, cuantifica este riesgo en al menos un diez por ciento, una cifra que califica como ridículamente alta para cualquier estándar de seguridad industrial.

La Inteligencia Artificial superinteligente poseería un poder similar al de un dios y, lamentablemente, no sabemos cómo controlarla en absoluto. Es tan peligroso como parece y no se debe permitir que suceda.

Esta declaración, formulada por el antiguo investigador de OpenAI Daniel Kokotajlo, resume la frustración de una comunidad científica que se siente incapaz de contener los riesgos derivados de los modelos fundacionales que ellos mismos contribuyen a construir. A diferencia de otros sectores tecnológicos, la falta de un marco de control efectivo para sistemas que superen la capacidad cognitiva humana crea un vacío de gobernanza que inquieta tanto a los reguladores como a los propios arquitectos de la tecnología.

• Probabilidad de riesgo existencial: Las estimaciones de los expertos oscilan entre un 10% y un 50%, cifras extremadamente elevadas para riesgos de impacto global.
• Déficit de control: Existe un consenso preocupante sobre la inexistencia de mecanismos técnicos capaces de supervisar o limitar a una superinteligencia una vez que esta alcance autonomía operativa.
• Dilema ético del trabajador: Los investigadores admiten que su permanencia en las empresas responde a una lógica de mitigación interna, bajo la convicción de que su salida no detendría el avance de los sistemas.
• Conflicto de intereses: Los propios expertos reconocen la necesidad de escepticismo ante sus declaraciones, dado que sus salarios provienen directamente de los laboratorios que impulsan estas capacidades.

Infraestructura, regulación y la trampa de la competitividad

La carrera por la hegemonía tecnológica ha dejado en un segundo plano la seguridad operativa. Mientras la Unión Europea avanza con su Ley de IA, centrada en la transparencia y la clasificación de riesgos, los desarrolladores advierten que la magnitud del desafío técnico podría desbordar cualquier intento regulatorio. El problema reside en la escalabilidad: la infraestructura de computación necesaria para entrenar estos modelos crece de forma exponencial, consumiendo recursos energéticos y financieros que solo un puñado de corporaciones puede sostener.

La postura de investigadores como Neel Nanda, quien afirma que dejaría su puesto si no creyera que su trabajo reduce activamente los riesgos, ilustra la paradoja del sector. La industria de la tecnología no se detendrá por voluntades individuales, lo que traslada la responsabilidad hacia marcos regulatorios internacionales más robustos. Estos deben contemplar no solo la adopción corporativa, sino también la auditoría de los modelos fundacionales, que operan hoy bajo un secretismo que impide una evaluación externa independiente.

El impacto socioeconómico y la desconfianza sistémica

El debate sobre la superinteligencia no puede disociarse de las repercusiones económicas inmediatas. La automatización acelerada de procesos cognitivos amenaza con desplazar estructuras laborales completas antes de que la sociedad haya podido ajustar sus redes de seguridad social. La transparencia, o mejor dicho, la ausencia de ella, es el punto de fricción más importante entre la industria y el escrutinio público.

Cuando los propios creadores sugieren que el público debe ser suspicaz ante sus palabras por estar financiados por los laboratorios, la credibilidad de la industria se tambalea. La gran pregunta no es si la tecnología alcanzará nuevas capacidades, sino si el diseño de estos sistemas seguirá priorizando la eficiencia y la cuota de mercado sobre la seguridad fundamental. En la actualidad, la falta de una solución técnica cohesiva deja al mundo en una posición de vulnerabilidad que, lejos de ser un ejercicio de marketing, plantea un desafío existencial sin precedentes en la historia de la computación.