Utilidades, riesgos y resguardos legales | 02 ABR 23

Asesoramiento médico generado por IA: GPT y más allá

Las nuevas tecnologías en medicina generan nuevos interrogantes
Autor/a: Claudia E. Haupt, Mason Marks,  Fuente: JAMA, 2023  AI-Generated Medical AdviceGPT and Beyond

Durante años, los expertos han especulado sobre el papel futuro de la inteligencia artificial (IA) en el cuidado de la salud. Algunas herramientas de IA pueden superar a los médicos en tareas específicas en radiología, dermatología y otros campos, lo que generó preocupaciones de que la IA podría volver obsoletos a ciertos especialistas. Algunos temían que la IA pudiera exponer a pacientes y médicos a nuevos riesgos. Otros se preguntaron si los médicos podrían usar la IA con la conciencia tranquila si no entienden cómo funciona, o si los médicos que no la adopten podrían ser acusados ​​de brindar una atención deficiente.

Estas preocupaciones se han desvanecido un poco ya que las plataformas de inteligencia artificial de alto perfil como IBM Watson no cumplieron su promesa. Además, al carecer de algo parecido a la inteligencia general, la IA superó a los humanos solo en tareas estrechamente definidas. Sin embargo, los temores relacionados con la IA resurgieron con el surgimiento de los modelos de aprendizaje de lenguajes (LLM), ejemplificados por el GPT de Open AI (ahora en su cuarta versión). Esta tecnología ha dejado a los médicos preguntándose cómo podrían usar los modelos de aprendizaje de lenguajes (LLM) y qué riesgos presenta la tecnología para los pacientes y los médicos.

Este punto de vista examina las aplicaciones médicas de GPT y tecnologías relacionadas y considera si se necesitan nuevas formas de regulación para minimizar los riesgos legales y de seguridad para pacientes y médicos. Estos riesgos dependen en gran medida de si el software se usa para ayudar a los profesionales de la salud o para reemplazarlos, y del grado en que los médicos mantienen el control.

¿Qué es GPT?

Un transformador preentrenado generativo (GPT) es una herramienta de IA que produce texto que se asemeja a la escritura humana, lo que permite a los usuarios interactuar con la IA casi como si se estuvieran comunicando con otra persona. El aumento repentino de la popularidad de los modelos de aprendizaje de lenguajes (LLM) se debió en gran parte a GPT-3, la tercera iteración de OpenAI, que se denominó la aplicación de más rápido crecimiento de todos los tiempos y el LLM más innovador.

Las personas usan GPT ingresando indicaciones: instrucciones de texto en forma de preguntas o comandos. La creación de indicadores de IA efectivos es tanto un arte como una ciencia, y las posibilidades parecen infinitas. Uno puede usar GPT como un motor de búsqueda. Sin embargo, los algoritmos predictivos de GPT también pueden responder preguntas que nunca se han planteado.

Si se le pide que escriba un haiku sobre el ciclo de Krebs, el software le proporcionará uno, incluso si nadie lo ha escrito antes. GPT puede explicar temas complejos como la mecánica cuántica en términos simples o proporcionar un diagnóstico diferencial para el dolor en el cuadrante superior derecho. En este sentido, su utilidad como enciclopedia científica o médica fácil de usar es obvia. Los investigadores incluso ingresaron preguntas del Examen de Licencias Médicas de EE. UU. en GPT-3 y afirmaron que el software "se acerca o supera el umbral de aprobación".  Una de las características más impresionantes de GPT es cómo maneja las tareas de escritura repetitivas. En segundos, puede reducir archivos de texto grandes a resúmenes o resúmenes con viñetas. Puede crear primeros borradores de cartas, presentaciones y otros documentos.

Sin embargo, en su forma actual, GPT es propenso a errores y omisiones. Puede fallar en tareas simples, como la aritmética básica, o cometer errores de manera insidiosa que pasan desapercibidos sin el escrutinio de los expertos en la materia. Algunos usuarios observan que cuando se les pide que proporcionen referencias para sus afirmaciones, GPT a menudo las inventa. Los educadores temen que los estudiantes estén mal informados al confiar en el software. Debido al riesgo de fabricación, las editoriales académicas exigen a los autores que divulguen el uso que hacen de la tecnología. Finalmente, generalmente se sabe que los algoritmos reproducen sesgos de sus datos de entrenamiento, creando el potencial para una discriminación dañina.

Usos potenciales en la práctica clínica

Dentro de la atención médica, GPT podría desempeñar un papel en la investigación, la educación y la atención clínica. En entornos de investigación, puede ayudar a los científicos a formular preguntas, desarrollar protocolos de estudio y resumir datos. En educación médica, GPT puede servir como una enciclopedia interactiva. Podría simular las interacciones de los pacientes para ayudar a los estudiantes a perfeccionar sus habilidades de toma de antecedentes. GPT puede incluso producir primeros borradores de notas de progreso, planes de atención de pacientes y otros documentos que los estudiantes deben preparar para la clase o en las salas.

Para los médicos, GPT puede potencialmente aliviar el agotamiento al asumir tareas repetitivas. Podría brindar apoyo para la toma de decisiones clínicas e incorporarse a plataformas de registros médicos electrónicos como Epic. GPT podría aumentar o reemplazar recursos de uso frecuente como UpToDate. En teoría, los médicos podrían ingresar la información del paciente en el software y solicitar un diagnóstico diferencial o un plan de tratamiento preliminar. Sin embargo, las versiones actuales de GPT no cumplen con HIPAA y podrían poner en peligro la privacidad del paciente. Hasta que estén disponibles versiones de nivel profesional con las garantías adecuadas, los médicos deben evitar ingresar información de salud protegida.

Los pacientes pueden beneficiarse del uso de GPT como recurso médico. Sin embargo, a menos que su consejo se filtre a través de los profesionales de la salud, la información falsa o engañosa podría poner en peligro su seguridad.

Los médicos deben educar a los pacientes para que sean cautelosos al usar LLM como GPT fuera de la relación médico-paciente

Asesoramiento Jurídico

Con todos estos usos potenciales de GPT y otros modelos de aprendizaje de lenguajes (LLM), ¿cómo deben proceder los médicos? ¿GPT plantea nuevos riesgos legales o nuevos modos de regulación? La clave para comprender las cuestiones éticas y legales que rodean a las nuevas tecnologías rara vez se trata de las tecnologías en sí mismas. Lo más importante es cómo afectan las relaciones sociales entre los usuarios. Primero se deben identificar estas relaciones, los valores que las definen y los marcos legales relevantes.

Distinguimos 3 casos de uso de GPT: IA dentro de la relación médico-paciente que aumenta en lugar de reemplazar el juicio del médico, IA orientada al paciente en la prestación de atención médica que sustituye el juicio del médico y asesoramiento de salud directo al consumidor. Los médicos tienen distintas preocupaciones en cada contexto.

 

Comentarios

Para ver los comentarios de sus colegas o para expresar su opinión debe ingresar con su cuenta de IntraMed.

CONTENIDOS RELACIONADOS
AAIP RNBD
Términos y condiciones de uso | Política de privacidad | Todos los derechos reservados | Copyright 1997-2024