¿La inteligencia artificial es un dispositivo médico si le hacemos consultas?

La integración de grandes modelos de lenguaje (LLMs) y otras formas de inteligencia artificial (IA) generativa en el ecosistema de la salud está difuminando la línea entre las herramientas informáticas de uso general y los productos médicos regulados. Determinar en qué momento un algoritmo cruza el umbral regulatorio para convertirse en un software como dispositivo médico (SaMD) es una decisión que impacta directamente en el diseño, la viabilidad y la seguridad clínica del producto.

La regla general de las entidades gubernamentales establece que un software (incluyendo un modelo de IA) requiere regulación cuando su uso previsto (intended use) está orientado al diagnóstico, cura, mitigación, tratamiento o prevención de una enfermedad o condición médica.

Sin embargo, la IA generativa presenta un desafío único, debido a su capacidad para procesar entradas abiertas y generar salidas variables y no predeterminadas. Una IA generativa se convierte en un sujeto de escrutinio regulatorio cuando deja de ser una biblioteca pasiva de información y comienza a:

• Emitir recomendaciones clínicas: Sugerir un esquema terapéutico específico para un paciente basándose en su historial.
• Actuar de forma "agéntica": Ejecutar de manera autónoma flujos de trabajo clínicos de múltiples pasos utilizando herramientas externas (por ejemplo, analizar resultados de laboratorio y programar automáticamente procedimientos de seguimiento).
• Procesar datos biométricos para inferencias: Interpretar imágenes médicas o patrones fisiológicos para estratificar el riesgo clínico.

Si la IA generativa de una plataforma se limita a resumir literatura científica para educación médica continua o a optimizar tareas administrativas sin impacto en la toma de decisiones sobre pacientes, generalmente permanece bajo un criterio de discreción regulatoria (es decir, no regulado activamente).

Para abordar la complejidad de las respuestas abiertas de los LLMs, el Centro de Excelencia en Salud Digital de la FDA (DHCoE) publicó en agosto de 2026 el documento normativo Considerations for the Regulation of Generative AI-Enabled Medical Devices.

Este documento introduce un marco de riesgo de dos ejes que las empresas deben utilizar para defender su perfil de riesgo durante el desarrollo del producto. Primero, la independencia de la actividad. La información no directiva que lleva a la Información directiva debe pasar por una acción supervisada sin recaer en una acción totalmente autónoma por parte de la IA. Segundo, deben establecerse las consecuencias del error, que podrían extenderse desde el bajo impacto clínico hasta la gravedad o el daño clínico irreversible.

A diferencia del software tradicional validado en entornos cerrados, la FDA propone evaluar a la IA generativa de manera similar a como se evalúa a los médicos humanos:

• Benchmarking del dispositivo: Pruebas de alto rendimiento que evalúan no solo la precisión clínica, sino también la adherencia a los límites (que la IA se niegue a responder consultas fuera de su dominio), la resistencia a inyecciones de prompts y la calibración.
• Confirmación clínica: Monitoreo en el mundo real, incluyendo shadow deployment, donde la IA opera en el flujo de trabajo en tiempo real, pero sus decisiones son adjudicadas por médicos antes de impactar en el paciente. 

El enfoque en Europa y a nivel internacional complementa esta visión centrada en el riesgo, pero añade capas estrictas de cumplimiento legal:

• Ley de Inteligencia Artificial de la UE (AI Act - Reg. 2024/1689): Esta normativa reclasifica automáticamente a casi todo el software clasificado como dispositivo médico (SaMD) bajo el Reglamento de Dispositivos Médicos (MDR) como un "Sistema de IA de Alto Riesgo" (Anexo III). Esto impone requisitos rigurosos de calidad de los datos de entrenamiento, supervisión humana por diseño y evaluaciones de conformidad antes de poder operar en territorio europeo.
• Directrices IMDRF (2025): El Foro Internacional de Reguladores de Dispositivos Médicos estableció 10 principios de "Buenas Prácticas de Aprendizaje Automático" (GMLP), exigiendo que cualquier IA médica cuente con arquitecturas de trazabilidad transparentes, mitigación activa de sesgos demográficos e interoperabilidad segura.

Las IAs generativas evolucionan. Entrenar el modelo con nueva literatura clínica o afinarlo (fine-tuning) con datos de usuarios altera su comportamiento. 

Para evitar que los desarrolladores deban presentar una nueva solicitud de aprobación ante la agencia gubernamental por cada actualización del algoritmo, el estándar regulatorio actual exige la inclusión de un Plan de Control de Cambios Predeterminado (PCCP) desde el diseño inicial. Este plan es un contrato con el regulador, donde el fabricante pre-especifica qué tipo de modificaciones sufrirá la IA en el futuro, los protocolos metodológicos con los que se re-entrenará el modelo y cómo se medirá el impacto para asegurar que no degrade su rendimiento original.

Para las plataformas digitales orientadas a disponibilizar estas herramientas, la inclusión de funcionalidades impulsadas por IA generativa exige una revisión del diseño del producto. Se debe definir con extrema precisión qué hace y qué no hace el algoritmo. Un lenguaje ambiguo en los términos de servicio puede atraer inmediatamente el escrutinio regulatorio.

Si se utiliza una API de terceros (como GPT-4 o modelos de Anthropic), el producto médico hereda los riesgos de ese proveedor. Las agencias como la FDA y la EMA exigen estrategias claras de contingencia en caso de que el proveedor altere subrepticiamente los pesos del modelo subyacente.