Seis reglas para usar la inteligencia artificial en la práctica médica

La inteligencia artificial (IA) ya se incorpora a distintos procesos de atención médica. A medida que aumenta su uso, surge una pregunta: ¿qué ocurre cuando contribuye a causar un daño al paciente? La respuesta depende de qué falló, cómo se utilizó la herramienta y quiénes intervinieron en su desarrollo e implementación.

En el Reino Unido, un sistema de IA no puede ser demandado como una persona. La responsabilidad por un daño podría recaer en el médico, la institución sanitaria, el desarrollador o el fabricante, según las circunstancias. El organismo que atiende reclamos por negligencia en el sistema de salud británico ya recibió casos en los que el uso de IA podría haber intervenido en la atención. El regulador médico de ese país también recibió denuncias por usos indebidos de estas herramientas.

Un profesional podría ser cuestionado por emplear IA cuando no correspondía, elegir un sistema inadecuado o utilizar uno apropiado sin el cuidado necesario. También por omitir una herramienta cuando su uso estaba indicado o por no brindar al paciente información relevante sobre su empleo y las alternativas disponibles. Estos ejemplos proceden del contexto británico; no describen obligaciones legales uniformes para Latinoamérica. Sí permiten examinar decisiones que aparecen antes, durante y después del uso de IA en la práctica clínica.

1. Conocer el sistema antes de utilizarlo. Como ocurre con cualquier recurso médico, es necesario comprender para qué fue desarrollado y cuáles son sus límites. Una herramienta capaz de identificar retinopatía diabética, por ejemplo, no necesariamente puede reconocer otras enfermedades de la retina.

Antes de emplearla, conviene comprobar si la institución aprobó el sistema, seguir las indicaciones locales y completar la capacitación necesaria. No hace falta conocer su código de programación, pero sí entender, en términos generales, cómo funciona, qué significa su resultado y cuándo se espera una revisión humana. El médico debería poder explicar al paciente qué hace la herramienta y por qué decidió utilizarla.

2. Proteger la información del paciente. No se deben ingresar datos que permitan identificarlo en sistemas públicos o no autorizados. Suprimir el nombre o un número de identificación puede ser insuficiente si la combinación de detalles clínicos y personales permite reconocer a la persona. Una enfermedad poco frecuente, por ejemplo, podría aumentar esa posibilidad.

Cuando sea necesario introducir información confidencial, corresponde emplear herramientas autorizadas por la institución y evaluadas conforme a sus requisitos de protección de datos. Esta precaución importa tanto al escribir información manualmente como al incorporarla desde otros registros.

3. Revisar los datos ingresados antes de actuar sobre la respuesta. Incluso un sistema confiable puede producir un resultado incorrecto si recibió información equivocada. Esto merece especial atención cuando los datos se copiaron o transfirieron de forma automática.

Después corresponde evaluar la respuesta en el contexto clínico. ¿Concuerda con la historia, el examen y las demás pruebas? ¿Pasó algo por alto o presenta una precisión que los datos no justifican? Como criterio general, cuanto mayores sean las consecuencias de una decisión, más rigurosa debería ser la revisión del resultado.

Si la respuesta contradice el juicio clínico, el profesional puede volver a comprobar los datos, recurrir a otro método o consultar a un colega. Tanto si acepta como si rechaza la recomendación, necesita una razón que pueda explicar y documentar. «Lo dijo la IA» no constituye, por sí solo, una justificación suficiente.

4. Informar al paciente cuando el uso de IA pueda influir de manera relevante en su atención. Las orientaciones del regulador médico británico recomiendan conversar con los pacientes sobre las tecnologías innovadoras, incluidas sus opciones, incertidumbres y limitaciones. En ese marco, no existe una exigencia general de comunicar cada uso de IA. Sin embargo, resulta prudente hacerlo cuando la herramienta pueda afectar de forma importante el diagnóstico, el pronóstico o el tratamiento.

Si un paciente solicita que no se utilice, corresponde conocer sus motivos y considerar si existe una alternativa razonable. Cuando no la haya, el médico debería explicar por qué el sistema forma parte de una atención segura.

Los estándares profesionales, además, pueden cambiar. En el futuro, un médico podría ser cuestionado por no utilizar una herramienta cuyos beneficios estén bien establecidos. Ese punto probablemente se alcanzaría en momentos diferentes según la especialidad. Para evaluarlo serían relevantes la evidencia de beneficio, las recomendaciones de organizaciones profesionales, la disponibilidad, el costo y la práctica habitual entre colegas. No se trata de una obligación general actual de usar IA.

5. Dejar constancia de su influencia en las decisiones. Cuando la IA haya contribuido de manera relevante a una conducta clínica, el registro debería permitir comprender cómo intervino y por qué se tomó la decisión. Esto es especialmente útil si el médico se apartó de la recomendación del sistema: otro profesional podría necesitar reconstruir más adelante los motivos de esa diferencia.

6. Responder si el resultado es potencialmente inseguro o se produce un incidente. La primera medida es proteger al paciente. También corresponde utilizar los canales de reporte disponibles, identificar el producto y su versión cuando sea posible, y conservar las respuestas o registros que puedan ayudar a investigar lo sucedido.

Un resultado inesperado podría revelar un problema más amplio de la herramienta. Por eso, además de atender la situación individual, conviene comunicar la preocupación a quienes supervisan su uso clínico, para que pueda evaluarse si es necesario auditarla o restringirla. Si un paciente sufrió un daño, deben cumplirse los deberes de información que correspondan en cada ámbito.

Hay dos extremos que conviene evitar: adoptar cada sistema nuevo sin examinarlo o rechazar la IA por principio. Antes de utilizarla, el profesional necesita conocer la herramienta y proteger los datos; después, revisar sus resultados, explicar sus decisiones y dejar un registro útil. La finalidad de incorporarla a la práctica debe ser mejorar la calidad y la seguridad de la atención.