Historias clínicas electrónicas (HCE) y LLM locales
Hace un año hice un prototipo de una HCE minimalista para un cliente. El usuario solo escribe la evolución en una sección de texto libre y guarda. Por detrás, un LLM local se ocupa de:
- Extraer información relevante de la evolución (por ejemplo, signos vitales).
- Crear un resumen actualizado del paciente.
Todo corre en el mismo dispositivo, sobre Ollama. El modelo principal es qwen2.5:7b (7.6B, cuantizado a 4 bits, contexto de 32k) para resúmenes y extracción.
En el equipo de prueba, un Ryzen 5 5500U, solo CPU.
La generación ronda 1,5 tokens/s y hay una penalidad de carga en frío de ~35s.
Pros:
- Privacidad: la información del paciente nunca se envía a un servidor en otro país. Todo sucede en el dispositivo.
- No hay que formatear ni ordenar la información: el LLM clasifica las secciones y les da nuevo formato.
- Al abrir la HCE, enseguida vemos el resumen actualizado y los datos extraídos.
Contras:
- La velocidad de procesamiento depende del hardware donde corre la HCE.
- Los modelos locales son menos capaces que los "frontier models" de la nube.
- Sobreexigencia y calentamiento del dispositivo.
![IntraMed](data:image/svg+xml,<?xml version="1.0" encoding="UTF-8"?>%0A<svg id="Capa_1" xmlns="http://www.w3.org/2000/svg" version="1.1" viewBox="0 0 367.72 97.47">%0A <!-- Generator: Adobe Illustrator 30.1.0, SVG Export Plug-In . SVG Version: 2.1.1 Build 136) -->%0A <defs>%0A <style>%0A .st0 {%0A fill: %23fff;%0A }%0A%0A .st1 {%0A fill: %23002bc7;%0A }%0A%0A .st2 {%0A fill: %2300deff;%0A fill-rule: evenodd;%0A }%0A </style>%0A </defs>%0A <circle class="st1" cx="48.8" cy="48.8" r="45.71"/>%0A <g>%0A <path class="st1" d="M119.48,30.88v36.1c0,2.37-1.37,3.8-3.52,3.8s-3.55-1.43-3.55-3.8V30.88c0-2.37,1.4-3.8,3.55-3.8s3.52,1.43,3.52,3.8Z"/>%0A <path class="st1" d="M156.61,50.47v16.62c0,2.31-1.37,3.68-3.46,3.68s-3.43-1.37-3.43-3.68v-15.92c0-4.5-2.28-6.87-7.02-6.87-2.64,0-5.26.73-6.84,1.64v21.15c0,2.31-1.37,3.68-3.46,3.68s-3.43-1.37-3.43-3.68v-22.57c0-2.16.46-3.13,2.4-4.13,1.82-1.06,6.26-2.77,11.33-2.77,9.02,0,13.92,4.86,13.92,12.85Z"/>%0A <path class="st1" d="M172.13,34.58v3.62h8.17c2.37,0,3.59,1.22,3.59,3.19s-1.22,3.16-3.59,3.16h-8.17v15.25c0,3.31,1.31,4.77,4.31,4.77,1.61,0,2.73-.36,3.65-.67.73-.24,1.34-.52,2.13-.52,1.55,0,2.86,1.28,2.86,3.07s-1.06,2.73-2.7,3.37c-1.76.67-3.98,1.22-6.35,1.22-6.44,0-10.79-3.68-10.79-10.57v-25.89c0-2.31,1.34-3.65,3.43-3.65s3.46,1.34,3.46,3.65Z"/>%0A <path class="st1" d="M190.46,67.09v-18.87c0-6.53,3.98-10.6,10.39-10.6,2.04,0,3.8.24,5.13.64,1.98.55,3.34,1.58,3.34,3.49,0,2.13-1.43,3.34-2.86,3.34-.67,0-1.15-.12-1.64-.24-1.03-.27-2.01-.43-3.28-.43-2.86,0-4.19,1.37-4.19,4.19v18.47c0,2.31-1.34,3.68-3.43,3.68s-3.46-1.37-3.46-3.68Z"/>%0A <path class="st1" d="M212.15,60.62c0-5.1,3.98-9.78,12.21-9.78,2.64,0,4.98.33,7.75,1.06v-2.52c0-3.68-1.94-5.5-6.87-5.5-2.16,0-4.31.55-5.65,1.09-.91.33-1.76.64-2.52.64-1.61,0-2.89-1.25-2.92-2.95,0-1.43.76-2.55,2.64-3.28,2.1-.88,5.35-1.76,8.96-1.76,8.29,0,13,3.74,13,11.94v15.62c0,1.25-.33,1.88-1.28,2.52-1.91,1.31-6.62,3.34-12.82,3.34-8.05,0-12.52-4.53-12.52-10.42ZM225.25,65.36c2.46,0,5.01-.7,6.87-1.67v-6.84c-2.52-.76-4.59-1.09-6.9-1.09-4.34,0-6.5,2.13-6.5,4.86,0,3.01,2.55,4.74,6.53,4.74Z"/>%0A <path class="st1" d="M246.03,67.49c0-.27.03-.7.06-.94l4.65-32.69c.73-5.13,3.22-6.78,6.81-6.78,3.22,0,5.68,1.34,6.65,6.47l6.23,29.02c.15.55.24.79.67.79.46,0,.58-.24.7-.82l6.2-28.99c.97-5.13,3.4-6.47,6.62-6.47,3.62,0,6.08,1.64,6.78,6.81l4.65,32.51c.06.49.09.76.09,1.12,0,1.98-1.34,3.25-3.28,3.25-2.22,0-3.43-1.18-3.68-3.4l-4.1-32.11c-.09-.64-.24-.85-.64-.85-.33,0-.52.15-.64.73l-6.62,29.87c-.82,3.92-2.89,5.77-6.14,5.77-3.46,0-5.32-1.88-6.17-5.8l-6.59-29.81c-.15-.55-.33-.76-.61-.76-.4,0-.58.24-.67.88l-4.01,32.08c-.27,2.25-1.46,3.4-3.52,3.4s-3.43-1.22-3.43-3.28Z"/>%0A <path class="st1" d="M302.55,58.62c-.21-2.28-.21-5.99-.03-8.11.7-7.51,6.11-12.82,14.28-12.82s13.43,5.44,13.43,13.43v1.79c0,3.34-.67,3.83-3.68,3.83h-17.56c0,.43,0,.88.03,1.31.24,4.07,3.37,6.78,8.23,6.78,2.67,0,4.71-.58,6.38-1.25,1-.36,1.64-.7,2.52-.7,1.64,0,2.86,1.06,2.86,2.86.03,1.73-1.28,2.73-2.55,3.31-2.34,1.12-5.68,2.01-9.36,2.01-8.29,0-13.88-5.1-14.55-12.43ZM323.85,51.81c.42-5.23-2.64-8.23-7.26-8.23s-7.29,3.04-7.57,7.47c0,.24-.03.52-.03.76h14.86Z"/>%0A <path class="st1" d="M364.54,30.27v34.82c0,1.34-.36,2.01-1.31,2.64-1.97,1.31-6.81,3.31-12.58,3.31-8.08,0-13.28-5.01-13.95-12.24-.24-2.46-.24-6.5,0-8.93.67-7.23,5.86-12.24,13.34-12.24,2.76,0,5.68.7,7.6,1.64v-8.99c0-2.31,1.34-3.68,3.46-3.68s3.43,1.37,3.43,3.68ZM350.93,64.36c2.34,0,5.26-.7,6.71-1.73v-16.59c-1.46-1.03-4.38-1.73-6.71-1.73-4.53,0-7.02,2.7-7.38,6.68-.18,2.22-.15,4.68,0,6.68.36,3.98,2.86,6.68,7.38,6.68Z"/>%0A </g>%0A <g>%0A <path class="st0" d="M35.23,61.41c0-.22.02-.55.05-.75l3.68-25.88c.58-4.07,2.55-5.36,5.39-5.36,2.55,0,4.5,1.06,5.27,5.12l4.93,22.97c.12.43.19.63.53.63.36,0,.46-.19.55-.65l4.91-22.95c.77-4.07,2.69-5.12,5.24-5.12,2.86,0,4.81,1.3,5.36,5.39l3.68,25.74c.05.38.07.6.07.89,0,1.56-1.06,2.57-2.6,2.57-1.76,0-2.72-.94-2.91-2.69l-3.25-25.43c-.07-.51-.19-.67-.51-.67-.26,0-.41.12-.51.58l-5.24,23.65c-.65,3.1-2.29,4.57-4.86,4.57-2.74,0-4.21-1.49-4.88-4.59l-5.22-23.6c-.12-.43-.26-.6-.48-.6-.31,0-.46.19-.53.7l-3.18,25.4c-.22,1.78-1.15,2.69-2.79,2.69s-2.72-.96-2.72-2.6Z"/>%0A <path class="st0" d="M31.57,32.34v28.58c0,1.88-1.08,3.01-2.79,3.01s-2.81-1.13-2.81-3.01v-28.58c0-1.88,1.11-3.01,2.81-3.01s2.79,1.13,2.79,3.01Z"/>%0A </g>%0A <g>%0A <path class="st2" d="M26.07,56.32c6.74.27,18.38-1.56,31.28-5.19,19.64-5.52,34.76-13.12,33.77-16.98-.68-2.66-8.82-2.84-20.23-.9,8.12-.96,12.7-.46,13.24,1.66.96,3.73-12.79,11.09-31.81,16.44-.43.12-.85.24-1.27.35,0,0,0,0,0,0-4.5,1.34-17.05,4.61-24.98,4.61Z"/>%0A <path class="st2" d="M65.74,52.56c-4.41,1.61-9.2,3.15-14.25,4.57-23.82,6.7-44.2,7.99-45.5,2.87-.9-3.52,6.8-8.81,19.89-14.17-9.05,4.31-12.89,8.17-12.17,10.99,1.26,4.95,20.1,3.71,43.16-2.78,12.39-3.48,23.22-7.77,30.4-11.76-3.26,2.28-7.95,4.74-13.65,7.18-1.66.82-6.12,2.49-7.88,3.1Z"/>%0A </g>%0A</svg>)