Inteligência artificial médica e valores humanos

Os avanços recentes na inteligência artificial generativa (IA) são impressionantes, especialmente com o surgimento dos grandes modelos de linguagem (ML). Embora o reconhecimento de suas capacidades esteja crescendo, muitos especialistas têm manifestado preocupações sobre seu uso na medicina e no cuidado à saúde, apontando riscos conhecidos, como confabulação, fragilidade e imprecisão factual.

É evidente que a sensibilidade na compreensão dos valores e riscos individuais é o que torna o papel do clínico atento tão essencial. Essas reflexões tornam-se ainda mais relevantes diante da expansão de modelos de IA sem precedentes e cada vez mais presentes, como os ML.

À medida que os grandes MLs e outras formas de IA se tornam mais integrados à prática médica, dilemas éticos emergem, dependendo de como esses são treinados. É essencial que os usuários compreendam como as decisões e valores humanos podem influenciar o comportamento desses modelos. Isso torna evidente que a análise de decisões médicas oferece lições valiosas sobre como incorporar e medir valores humanos dentro de um modelo de IA.

Os modelos de linguagem respondem de maneiras distintas, dependendo de como uma consulta é formulada e de como o modelo foi direcionado por seus criadores e usuários. Portanto, é prudente adotar cautela ao considerar o uso dos resultados gerados por esses modelos na tomada de decisões clínicas.

Apesar do crescente reconhecimento do viés presente nos modelos de IA, particularmente devido aos dados de treinamento, ainda são subestimados os diversos pontos de entrada adicionais para valores humanos ao longo do processo de desenvolvimento e implementação desses modelos. Considerações explícitas sobre a modelagem de valores humanos e sua interação com a avaliação de riscos e o raciocínio probabilístico têm sido amplamente negligenciadas, mesmo em meio aos impressionantes avanços da IA na medicina.

> Análise de decisão médica

Embora seja pouco familiar para muitos clínicos, a análise de decisão médica fornece uma abordagem sistemática para lidar com decisões complexas, ao separar o raciocínio probabilístico sobre resultados incertos dos valores subjetivos associados a esses, que são quantificados como "utilidades". Nesse processo, o clínico deve primeiro identificar todas as opções de decisão e as probabilidades associadas a cada possível resultado, e em seguida incorporar as utilidades dos pacientes (ou de outras partes interessadas) ligadas a esses resultados, a fim de selecionar a escolha mais apropriada. Assim, a validade de uma análise de decisão depende tanto da especificação abrangente dos resultados quanto da precisão na medição das utilidades e estimativas de probabilidades.

Embora não se espere que os médicos adotem drasticamente a prática diagnóstica por meio da análise de decisão na era dos MLs, o princípio central da elicitação de utilidades oferece lições importantes sobre o alinhamento de modelos de IA para a medicina.

Em cada estágio do treinamento e implementação de um modelo de IA, os valores humanos desempenham um papel crucial. Esses modelos não são imunes a mudanças ou discrepâncias nos valores entre pacientes e sociedades. Utilidades anteriormente aceitas podem se tornar obsoletas ou até refletir vieses sociais prejudiciais. É nossa responsabilidade garantir que os modelos de IA que desenvolvemos e utilizamos reflitam de forma precisa e explícita os valores e objetivos dos pacientes. Conforme apontado por Pauker e Kassirer no Journal há mais de três décadas, ao revisar o progresso na análise de decisão médica, a ameaça de uma abordagem matemática para a tomada de decisão clínica não se concretizou. Por fim, em vez de substituir os médicos, a IA se torna a consideração de valores humanos, quando orientada por um clínico atento, mais essencial do que nunca.