Ambient scribe en clínica: el caso de uso más caliente de LLMs y lo que esconde

Llevo unos meses viendo cómo el ambient scribe se ha convertido en el caso de uso estrella de los LLMs en clínica. La promesa es sencilla: un sistema que escucha la consulta, transcribe lo que se dice y genera automáticamente la nota clínica estructurada. Sin que el médico tenga que teclear nada. Suena perfecto. Y en parte lo es, pero hay detalles que me están dejando pensando.

Qué es un ambient scribe y por qué está en todas partes

La idea básica es que un micrófono capta la conversación entre médico y paciente. Un modelo de voz-a-texto (tipo Whisper de OpenAI o similar) transcribe lo que se dice. Luego un LLM procesa esa transcripción y genera una nota clínica: antecedentes, motivo de consulta, exploración, plan. Todo automático.

Las ventajas son evidentes. Los médicos pasan horas documentando. En atención primaria he visto que la mitad del tiempo de consulta se va en escribir, no en escuchar. Si un sistema te quita esa carga, recuperas tiempo para el paciente o para irte antes a casa. Por eso hay tanta tracción: Microsoft, Nuance (DAX), Abridge, Nabla, Amazon HealthScribe. Todas con pilotos en hospitales y grupos de atención primaria.

Lo que funciona bien

He leído evaluaciones de algunos de estos pilotos. Cuando el caso es sencillo y la conversación es clara, la salida es sorprendentemente buena. El LLM identifica bien el motivo de consulta, extrae síntomas, lista medicaciones, sugiere diagnósticos diferenciales. En inglés, sobre textos limpios, la calidad es alta.

Me llama la atención que varios médicos que han probado estas herramientas dicen que la nota generada es mejor que la que ellos habrían escrito. Más completa, más estructurada, con menos erratas. Eso tiene sentido: el modelo no tiene prisa, no está cansado, no tiene veinte pacientes esperando.

Pero el detalle está en el matiz.

Los riesgos que estoy viendo

Omisiones silenciosas

Un LLM puede transcribir perfectamente una conversación y luego olvidar un dato clave en la nota final. He leído casos donde el paciente menciona un síntoma relevante (dolor torácico intermitente, por ejemplo) y el sistema lo captura en la transcripción, pero no lo incluye en el resumen estructurado. Queda enterrado en el texto crudo.

Si el médico no revisa línea por línea la transcripción completa (y seamos honestos, nadie lo hace), ese dato se pierde. Y puede ser el dato que cambia el diagnóstico.

Invenciones sutiles

He visto ejemplos de LLMs que infieren cosas que no se dijeron. El paciente dice "me duele la cabeza desde hace dos semanas". El sistema escribe "cefalea de dos semanas de evolución, sin náuseas ni vómitos". Nadie preguntó por náuseas. El modelo asumió la negativa porque es lo habitual. La mayoría de las veces acertará. Pero cuando falle, la nota clínica tendrá información falsa.

Y esto es especialmente peligroso porque la nota tiene pinta de correcta. No es un error grosero que salta a la vista. Es una sutileza que pasa desapercibida.

Contexto perdido

Los LLMs no entienden las pausas, los tonos, las miradas. Un paciente puede decir algo importante bajando la voz, o puede dudar antes de responder. Un médico capta esas señales. Un micrófono no. La transcripción es literal, pero pierde contexto.

He pensado en las conversaciones difíciles: malas noticias, decisiones sobre cuidados paliativos, pacientes con ansiedad. No estoy seguro de que un sistema automático pueda capturar la complejidad de esas interacciones.

Integración con la historia clínica electrónica

Otro punto que me genera dudas es cómo se integran estas herramientas con los sistemas que ya existen. La mayoría de hospitales tienen HCEs rígidos, con campos estructurados, ontologías propias, flujos de validación. Un LLM genera texto libre. Hay que mapear ese texto a los campos del sistema.

En algunos pilotos he leído que la integración es manual: el médico copia y pega la nota generada en la HCE. Eso elimina parte del ahorro de tiempo. En otros casos hay integraciones automáticas, pero entonces tienes que validar que el mapeo sea correcto. Y si el sistema se equivoca al rellenar un campo crítico (dosis de medicación, alergias), el problema puede ser serio.

El tema regulatorio

Aquí las cosas se complican. Si un ambient scribe genera una nota clínica que se incorpora a la historia del paciente, esa nota es un documento médico-legal. ¿Quién es responsable si contiene un error? ¿El médico que no lo detectó? ¿El fabricante del software? ¿El hospital que lo implantó?

En Europa, estos sistemas caen bajo el Reglamento de Productos Sanitarios (MDR) o el AI Act, dependiendo de cómo se clasifiquen. Si el sistema "sugiere" y el médico valida, es una cosa. Si el sistema "genera" y se asume correcto por defecto, es otra. La frontera no está clara, y eso genera incertidumbre.

Me pregunto cuántos de los pilotos que están en marcha han hecho un análisis regulatorio serio. O si están esperando a ver qué pasa.

Por qué algunos hospitales están retirando pilotos

He visto menciones (sin mucho detalle público, todo hay que decirlo) de hospitales que han parado pilotos de ambient scribe. Las razones que circulan son varias:

• Calidad inconsistente: funciona bien en casos sencillos, falla en casos complejos. Y no hay forma de predecir cuándo va a fallar.
• Carga de validación: los médicos acaban revisando las notas con tanto detalle que no ahorran tiempo. O peor, no las revisan y asumen riesgo.
• Problemas con idiomas no ingleses: la mayoría de estos sistemas están optimizados para inglés. En español, catalán, gallego, la calidad baja. He visto transcripciones con errores de contexto que cambian el sentido de una frase.
• Resistencia del equipo: algunos médicos no se sienten cómodos con la idea de que un micrófono esté grabando la consulta. O no confían en la salida del sistema.

No estoy diciendo que los ambient scribes no funcionen. Estoy diciendo que el caso de uso real es más estrecho de lo que parece. Funciona bien en consultas predecibles, con médicos que revisan activamente, en idiomas bien soportados, con integración técnica cuidada. Fuera de ese nicho, los riesgos aumentan.

Lo que me llevo de todo esto

El ambient scribe es el ejemplo perfecto de cómo un LLM puede ser útil y peligroso al mismo tiempo. La tecnología funciona. La promesa es real. Pero los detalles importan. Y en clínica, los detalles son la diferencia entre una herramienta que ayuda y una herramienta que genera riesgo.

Veo mucho entusiasmo en el sector. Y está bien. Pero también veo que hay preguntas sin responder: ¿cómo validamos que un LLM no omite datos críticos? ¿Cómo auditamos qué partes de la nota son generadas vs. transcritas? ¿Cómo formamos a los médicos para usar estas herramientas de forma segura?

Me pregunto si no estamos corriendo demasiado rápido.

¿Te ha resultado útil?

Si trabajas en esto (sea desde innovación, medical affairs o sistemas de información) y quieres comentar qué estás viendo en tu entorno, me interesa mucho. Escríbeme por aquí.