Lo que las grandes consultoras deberían preguntar sobre IA clínica (y casi nunca preguntan)

Las grandes consultoras —Crowe, Deloitte, Accenture, KPMG, PwC— venden transformación digital sanitaria a hospitales españoles y a la Administración. Equipos impecables de consultoría estratégica, expertos tecnológicos sólidos, partners con décadas de experiencia. Y rara vez un médico en el comité. Esto es lo que se les escapa.

La observación incómoda

Los proyectos de IA clínica que fracasan en el primer año no fracasan por mala tecnología. El modelo funciona en test, el AUC-ROC es publicable, la arquitectura cloud pasa el security review. Fracasan porque nadie preguntó a tiempo qué decisión clínica concreta cambia, quién lo va a usar a las 3 de la madrugada en urgencias, y qué datos que parecen rutinarios en teoría están en blanco en la práctica.

Un CDSS diseñado sin un médico que haya pasado un turno en urgencias no sobrevive el primer año. Lo he visto, y lo he documentado. La diferencia entre el modelo que funciona en Kaggle y el modelo que funciona en el Servicio de Medicina Interna del Hospital de La Paz es un orden de magnitud de detalle clínico que no está en ningún PRD.

Las siete preguntas

01 — ¿Qué decisión clínica exacta cambia este sistema?

No vale “mejorar la toma de decisiones”. La pregunta es concreta: ¿cambia el triaje en urgencias? ¿cambia la prescripción al alta? ¿cambia el criterio de ingreso? Si no hay una decisión binaria identificable que el sistema influye, el sistema no tiene valor clínico medible.

02 — ¿Qué datos faltantes son frecuentes en la práctica?

En el paper todo está completo. En la consulta real faltan la presión arterial porque el tensiómetro no conectaba, faltan los antecedentes porque el paciente no se acordaba, falta el peso porque la báscula pesaba con la ropa. Un modelo que requiere 23 variables completas para inferir con confianza es un modelo que en producción no ejecuta el 60% de los casos.

03 — ¿Quién lo usará y en qué momento del flujo?

¿El residente en el primer año? ¿La enfermería en triaje? ¿El adjunto en la pase de visita matinal? Cada rol tiene tres minutos distintos, una pantalla distinta y una tolerancia distinta a falsos positivos. Un sistema diseñado para “el clínico” en abstracto no está diseñado para nadie.

04 — ¿El output es interpretable en 5 segundos?

Nadie lee un informe SHAP de 40 ítems durante una guardia. El output tiene que ser: una probabilidad, una acción sugerida y una razón principal. Todo lo demás es literatura científica. Si tu UX no pasa el test de los cinco segundos, no se usará, y si no se usa no hay impacto.

05 — ¿Qué sesgos tiene el dataset?

¿Entrenaste con datos del CDC americano y lo vendes a un hospital andaluz? ¿El dataset tiene sobrerrepresentación masculina en cardiología? ¿Los pacientes mayores de 80 están en blanco porque no se derivaban a la prueba? El sesgo no es un anexo ético: es un problema de validez clínica que decide si tu sistema sirve o reproduce desigualdad.

06 — ¿Cómo se valida con facultativos?

Validación retrospectiva contra historia clínica no basta. Se necesita un estudio prospectivo con facultativos del centro, comparación con criterio clínico habitual, análisis de concordancia y discusión de los casos discrepantes. Si el plan no incluye a dos médicos reales dedicando tiempo real, el proyecto no tiene validación clínica.

07 — ¿Cómo se monitorea en producción?

Data drift, concept drift, degradación de performance por cambios en el perfil de paciente, alertas cuando la distribución de entradas cambia más de X desviaciones estándar. Un CDSS en producción sin monitoreo es un pasivo regulatorio y clínico. El EU AI Act ya lo exige (Artículos 15 y 17 del Reglamento 2024/1689). No es opcional.

Cómo encajo yo en un equipo consultor

No compito con Crowe, Deloitte o Accenture. Encajo dentro. Como advisor clínico embedded en el equipo de la consultora durante la fase de diseño y despliegue de un proyecto de IA clínica. Mi rol es responder esas siete preguntas desde dentro, traducir entre el lenguaje del partner y el lenguaje del jefe de servicio, y bloquear lo que no pasa el filtro clínico antes de que llegue a producción.

Tres capas en el mismo perfil: 6,5 años de práctica clínica hospitalaria (Universidad del Rosario · Méderi), máster en Salud Digital por la Universidad Europea con enfoque en licitaciones y EHDS, y máster en IA aplicada a Sanidad (CEMP) con formación complementaria en Stanford. No soy tu consultor tecnológico ni tu consultor estratégico: soy la capa que valida que el sistema aterriza en un hospital real.