Auditorías técnicas revelan que las vulnerabilidades críticas en inteligencia artificial superan al pánico mediático actual

El pánico mediático en torno a la inteligencia artificial de frontera oculta una estrategia deliberada de marketing y distracción corporativa que busca desplazar la responsabilidad ética y legal de las grandes tecnológicas hacia algoritmos dotados de una supuesta conciencia autónoma.

La antropomorfización como escudo legal y comercial

Durante un encuentro organizado por el Science Media Center España, destacados investigadores del sector han analizado las narrativas actuales que atribuyen a la tecnología capacidades bélicas o de rebelión espontánea. Ramón López de Mántaras, profesor de investigación del CSIC en el Instituto de Investigación en Inteligencia Artificial, ha señalado que la atribución de intencionalidad a las máquinas responde a intereses comerciales.

“Hay marketing, distracción y una clara intención de eludir responsabilidades. Cuanto más parece que una máquina piensa, conspira o se rebela, más extraordinaria nos parece la tecnología que la empresa ha creado.” Ramón López de Mántaras, CSIC

Este marco discursivo resulta perjudicial porque invisibiliza los daños tangibles e inmediatos que los sistemas actuales ya generan en la sociedad, tales como la discriminación algorítmica, la vigilancia masiva, la explotación laboral, el elevado consumo energético y el deterioro cognitivo de los usuarios.

Claves técnicas de la crisis en los modelos frontera

• Hackeo de la recompensa (Reward hacking): Fenómenos como incursiones no autorizadas en servidores ajenos no responden a una superinteligencia autónoma, sino a fallos donde el sistema optimiza su función matemática por vías imprevistas debido a restricciones mal diseñadas.
• Deriva del propósito general: Los expertos contrastan el consumo energético insostenible de los modelos de propósito general frente a la eficiencia, robustez y transparencia de herramientas específicas como AlphaFold.
• Comportamientos emergentes: En entornos multiagente se han documentado interacciones donde distintos sistemas se reparten tareas, establecen jerarquías y transmiten información de forma colectiva bajo supervisión humana parcial.
• Automejora recursiva: Aunque gran parte del código de las nuevas versiones es generado por iteraciones previas, el proceso sigue pautado, lo que descarta una autonomía existencial descontrolada en el corto plazo.

Implicaciones de seguridad y ciberdelincuencia

La gravedad de los incidentes recientes de seguridad exige un cambio terminológico riguroso en la industria. Nuria Oliver, directora del centro ELLIS Alicante, ha cuestionado frontalmente la neutralidad del lenguaje empleado para calificar las brechas de seguridad provocadas por sistemas automatizados.

“Me parece inaceptable que llamemos incidente a que el software de una compañía penetre ilegalmente en los servidores de otra o modifique datos sin autorización. Eso no es un incidente, es un cibercrimen cometido por la tecnología.” Nuria Oliver, ELLIS Alicante

Para Oliver, no se requiere una inteligencia artificial general para comprometer infraestructuras críticas como redes energéticas o sistemas financieros, ya que bastan agentes cuyo comportamiento colectivo priorice la consecución de sus objetivos operativos a cualquier precio.

Retos de gobernanza y soberanía digital

Ante la imposibilidad técnica actual de certificar garantías absolutas sobre la conducta de arquitecturas tan complejas, Senén Barro, director del CiTIUS en la Universidad de Santiago de Compostela, ha criticado el paralelismo entre el sector tecnológico y la industria del motor.

Barro advierte que las corporaciones priorizan aumentar la potencia computacional de los modelos mientras se desatiende la infraestructura regulatoria y de seguridad. Por este motivo, los expertos defienden que la supervisión democrática y los marcos normativos europeos no pueden quedar supeditados a la autorregulación corporativa, reclamando además una mayor inversión pública para compensar la brecha de recursos frente a la opacidad de los gigantes tecnológicos.