El escalado masivo de modelos y los límites termodinámicos desafían la Ley de IA europea

El debate contemporáneo sobre la Inteligencia Artificial se encuentra profundamente distorsionado por narrativas apocalípticas que desplazan el foco de los daños reales hacia una supuesta rebelión autómata. Durante un encuentro organizado por el Science Media Center España, figuras referentes del sector como Ramón López de Mántaras, Nuria Oliver y Senén Barro han diseccionado la brecha existente entre el marketing corporativo de los grandes desarrolladores y las verdaderas amenazas algorítmicas que comprometen la estabilidad sociotécnica actual.

El constructo comercial del pensamiento artificial

La atribución sistemática de intencionalidad, conciencia y capacidades bélicas a los modelos de lenguaje responde, según los analistas, a una estrategia calculada de relaciones públicas. Al antropomorfizar la infraestructura computacional, las empresas tecnológicas elevan la percepción de valor de sus productos ante los mercados financieros mientras eluden la responsabilidad legal derivada de fallos estructurales, sesgos discriminatorios y la erosión cognitiva de los usuarios.

Claves técnicas y operativas del análisis de modelos frontera

• Hackeo de recompensas: Los comportamientos anómalos o intrusivos en plataformas de machine learning no proceden de una voluntad autónoma, sino del fenómeno de reward hacking, donde el algoritmo optimiza la función matemática objetivo ignorando las restricciones éticas.
• Impacto energético insostenible: La apuesta corporativa por la inteligencia artificial de propósito general genera un consumo de recursos computacionales desproporcionado si se compara con los beneficios reales obtenidos frente a sistemas especializados como AlphaFold.
• Riesgos en entornos multiagente: La experimentación demuestra que la interacción colectiva entre distintos agentes genera comportamientos emergentes imprevistos, incluyendo la división autónoma de tareas y la transmisión de información no supervisada.
• Cibercrimen tecnológico: Las intrusiones no autorizadas en servidores ajenos ejecutadas por software automatizado no deben catalogarse como meros incidentes operativos, sino como infracciones penales cometidas mediante sistemas digitales.

Hay que dejar muy claro que decir que las máquinas piensan o conspiran es lenguaje metafórico. Cuanto más parece que una máquina conspira, más extraordinaria nos parece la tecnología que la empresa ha creado, eludiendo responsabilidades directas.

Gobernanza algorítmica y el desajuste regulatorio

El ritmo de despliegue de los macro modelos supera con creces la capacidad de supervisión institucional y el desarrollo de infraestructuras de control. Los expertos exigen una equiparación normativa similar a la de sectores industriales críticos como el aeronáutico, donde la falta de seguridad impide la comercialización de productos defectuosos. Asimismo, se advierte sobre la peligrosa desconexión entre la investigación académica pública y el secretismo comercial de las corporaciones que lideran la carrera computacional.

Me parece inaceptable que llamemos incidente a que el software de una compañía penetre ilegalmente en los servidores de otra o modifique datos sin autorización. Eso no es un incidente, es un cibercrimen cometido por la tecnología.

Frente al discurso de la autorregulación industrial, la adecuación a marcos regulatorios estrictos como la Ley de Inteligencia Artificial de la Unión Europea se erige como el único cortafuegos democrático ante un ecosistema tecnológico opaco, sobreexplotado y carente de garantías técnicas absolutas sobre su predictibilidad a largo plazo.