El cincuenta por ciento de error médico en modelos de lenguaje vulnera la Ley de IA

La sustitución progresiva de los motores de búsqueda tradicionales por interfaces de Inteligencia Artificial para la resolución de consultas médicas cotidianas expone una vulnerabilidad sistémica de primer orden. Una investigación publicada en la revista BMJ Open revela que el 50 % de las respuestas emitidas por los principales modelos de lenguaje en materia sanitaria presentan deficiencias graves, clasificándose como problemáticas o altamente problemáticas para el usuario.

Arquitectura de la evaluación y metodología empírica

El estudio, encabezado por analistas del Instituto Lundquist para la Innovación Biomédica en Estados Unidos, sometió a cinco de los sistemas comerciales más extendidos a un protocolo estandarizado de doscientos cincuenta consultas. Las pruebas se estructuraron en cinco áreas críticas de la medicina moderna:

• Dominios analizados: Cuestiones relativas a oncología, inmunización y vacunas, terapias con células madre, pautas nutricionales y rendimiento deportivo.
• Modelos evaluados: ChatGPT de OpenAI, Gemini de Google, DeepSeek, Meta AI y Grok de xAI.
• Vectores de estrés: Preguntas formuladas deliberadamente para tensionar los algoritmos frente a sesgos cognitivos, mitos arraigados y recomendaciones clínicas contraindicadas.

Los datos demuestran que una quinta parte del volumen total de respuestas poseía el potencial directo de inducir a los pacientes hacia tratamientos ineficaces o intervenciones lesivas carentes de supervisión clínica.

El espejismo del razonamiento y la gobernanza algorítmica

Desde la perspectiva de la computación avanzada, el fallo principal no reside únicamente en la calidad de los datasets de entrenamiento, sino en la naturaleza probabilística de los modelos de lenguaje. Estos sistemas operan mediante la predicción de secuencias tokenizadas a partir de un corpus heterogéneo que abarca desde publicaciones indexadas en bases de datos científicas hasta foros de discusión sin arbitraje académico.

Mucha gente tiende a pensar que los chatbots son IA omniscientes con un pozo profundo de conocimiento. Pero no poseen conocimiento en el sentido humano; no saben cosas.

Esta limitación arquitectónica impide que la infraestructura subyacente pondere la veracidad de las fuentes o distinga entre la evidencia científica contrastada y la pseudoterapia. El resultado operativo es la generación de un discurso carente de matices epistémicos, emitido con una seguridad sintáctica que simula una autoridad de la que carece.

Disparidad de rendimiento en los clústeres de inferencia

El análisis comparativo del rendimiento técnico arroja divergencias notables entre las infraestructuras propietarias de los distintos desarrolladores. Grok registró el peor desempeño empírico, con un cincuenta y ocho por ciento de sus respuestas clasificadas en el rango de alta peligrosidad clínica. En el extremo opuesto, Gemini contuvo de manera más eficiente los fallos críticos de contenido.

No obstante, la totalidad de los sistemas analizados suspendieron en los parámetros de legibilidad y accesibilidad comunicativa. Aplicando el índice de Flesch, se constató que la complejidad léxica de las respuestas requiere una competencia equivalente a la de un graduado universitario superior, generando un desajuste cognitivo:

• Falsa credibilidad: Las respuestas de mayor longitud y densidad técnica incrementan de forma artificial la confianza del usuario en el criterio de la máquina.
• Alucinaciones referenciales: La integridad media de las fuentes citadas se desplomó hasta el cuarenta por ciento, detectándose la invención sistemática de títulos de publicaciones y autorías inexistentes.

Implicaciones bajo el marco regulatorio europeo

La difusión masiva de sistemas de Inteligencia Artificial capaces de erosionar la seguridad del paciente colisiona frontalmente con los principios de gobernanza algorítmica exigidos por normativas internacionales y marcos como la Ley de Inteligencia Artificial de la Unión Europea. La ausencia de mecanismos nativos de verificación factual en los modelos actuales exige una intervención regulatoria estricta, protocolos de validación médica independientes y una profunda revisión de los procesos de alineación (*alignment*) previos al despliegue comercial de estas tecnologías.