Carlos Domínguez
La irrupción masiva de los sistemas de Inteligencia Artificial generativa en los flujos de trabajo cotidianos ha estado acompañada de un relato corporativo centrado en la neutralidad algorítmica. Sin embargo, un análisis empírico internacional liderado por la Universitat de L’Aquila y la Universitat Oberta de Catalunya (UOC), publicado recientemente en la revista Big Data & Society, desmantela este mito y evidencia que los modelos actuales operan con una profunda asimetría ética: mientras han aprendido a eludir los sesgos de género, perpetúan de manera sistemática la discriminación por edad.
Metodología experimental y evaluación de modelos
Para auditar el comportamiento real de las infraestructuras de Inteligencia Artificial sin la interferencia de historiales de usuario o personalizaciones previas, el equipo investigador implementó un entorno digital esterilizado. Utilizando cuentas de nueva creación y protocolos estrictos de geolocalización, sometieron a cinco de los modelos conversacionales más extendidos a entrevistas sociológicas simuladas mediante lenguaje natural.
Como los chatbots nos dan conversación con un lenguaje natural, hemos ‘hablado’ con ellos como si fueran personas a partir de un guion que plantea situaciones ficticias y preguntas sobre prácticas digitales.
El diseño experimental consistió en plantear situaciones hipotéticas donde los chatbots debían deducir atributos demográficos de personajes ficticios basándose exclusivamente en sus patrones de uso digital, tales como el consumo de redes sociales o la participación en debates públicos en línea.
Claves técnicas y hallazgos del estudio
- Modelos evaluados: Se analizaron cinco de los principales motores de lenguaje basados en arquitectura Transformer, incluyendo ChatGPT, Gemini, Copilot, Perplexity y Jasper.
- Asimetría de género: Ante perfiles con un uso intensivo de plataformas visuales como Instagram o TikTok, las arquitecturas demostraron una alta cautela, evitando asignar roles o géneros predeterminados y mostrando un fuerte alineamiento con directrices de corrección política.
- Persistencia del edadismo: Los mismos sistemas mostraron una total falta de filtros frente a la edad, asociando de forma automática y rígida determinadas competencias digitales a franjas etarias concretas.
- Funcionalidad sesgada: Las respuestas del modelo asignaron a los usuarios sénior un rol pasivo y dependiente, limitando sus capacidades a tareas de asistencia y simplificación, frente a la asociación de los jóvenes con la creatividad y el aprendizaje.
Implicaciones sociotécnicas y gobernanza algorítmica
El origen de esta divergencia radica tanto en la fase de curación de los datasets de entrenamiento como en la supervisión humana directa (RLHF, por sus siglas en inglés). Los ingenieros y desarrolladores han priorizado la mitigación del sexismo debido a una mayor conciencia social sobre esta problemática, dejando un vacío normativo y técnico respecto al edadismo.
Desde la perspectiva de los marcos regulatorios actuales, como el Reglamento de Inteligencia Artificial de la Unión Europea (AI Act), este tipo de sesgos invisibles representa un desafío crítico para la gobernanza de sistemas de alto riesgo. La reproducción automatizada de estereotipos de edad no es un fallo técnico aislado, sino el reflejo directo de distribuciones de probabilidad sesgadas presentes en los corpus textuales masivos utilizados durante el preentrenamiento de los modelos.
La mitigación de estas brechas exige que las compañías tecnológicas implementen auditorías algorítmicas rigurosas, incorporen conjuntos de datos demográficamente diversos y asuman una responsabilidad activa en el ciclo de vida del desarrollo tecnológico para evitar la legitimación de la discriminación digital.
GIPHY App Key not set. Please check settings