|
Resumo A inteligência artificial (IA) na área da saúde tem o potencial de melhorar os resultados dos pacientes, mas a aceitação clínica continua sendo uma barreira crítica. Por isso, Sivaraman e colaboradores (2023) desenvolveram uma nova interface de suporte à decisão que fornece recomendações de tratamento interpretáveis para sepse, uma condição com risco de vida na qual a incerteza na tomada de decisão é comum, as práticas de tratamento variam amplamente e resultados ruins podem ocorrer mesmo com decisões ideais. Esse sistema formou a base de um estudo de métodos mistos no qual 24 médicos intensivistas tomaram decisões assistidas por IA em casos reais de pacientes. Os autores descobriram que, em geral, as explicações aumentaram a confiança na IA. Embora os médicos às vezes ignorem ou confiem na IA, eles também priorizam aspectos das recomendações para seguir, rejeitar ou atrasar um processo que chamamos de "negociação". Os resultados revelaram novas barreiras para a adoção de ferramentas de IA focadas no tratamento e sugeriram maneiras de melhor apoiar diferentes perspectivas clínicas. |
Comentários
Os médicos em uma unidade de terapia intensiva devem tomar decisões complexas com rapidez e precisão, monitorando pacientes críticos ou instáveis o tempo todo. Por isso, Pesquisadores do Instituto de Interação Humano-Computador (HCII) da Universidade Carnegie Mellon colaboraram com médicos e pesquisadores da Universidade de Pittsburgh e UPMC para determinar se a inteligência artificial poderia ajudar nesse processo de tomada de decisão e se os médicos confiariam em tal atendimento.
A equipe deu a 24 médicos de UTI acesso a uma ferramenta baseada em IA projetada para ajudar a tomar decisões e descobriu que a maioria incorporou a assistência em algumas de suas decisões.
"Parece que os médicos estão entusiasmados com o potencial da IA para ajudá-los, mas podem não estar familiarizados com o funcionamento dessas ferramentas de IA. Portanto, é realmente interessante aproximar esses sistemas deles", disse Venkatesh Sivaraman, Ph, aluno do HCII e membro da equipe de pesquisa.
Usando o modelo clínico de IA apresentado na Nature por um grupo de pesquisadores em 2018, a equipe projetou uma interface interativa de suporte à decisão clínica (SDC), chamada AI Clinician Explorer, que fornece recomendações para o tratamento da sepse. O modelo foi treinado em um conjunto de dados de mais de 18.000 pacientes que atenderam aos critérios de diagnóstico padrão para sepse em algum momento durante sua internação na UTI. O sistema permite que os médicos filtrem e pesquisem pacientes no conjunto de dados, visualizem as trajetórias de suas doenças e comparem as previsões do modelo com as decisões reais de tratamento tomadas no leito do paciente.
"Os médicos estão sempre inserindo uma grande quantidade de dados sobre os pacientes que atendem nesses sistemas de computador e registros eletrônicos de saúde", disse Sivaraman. “A ideia é que talvez possamos aprender com alguns desses dados para tentar acelerar alguns de seus processos, tornar suas vidas um pouco mais fáceis e talvez também melhorar a consistência do atendimento”.
A equipe testou o sistema por meio de um estudo de reflexão com 24 médicos em UTI com experiência no tratamento de sepse. Durante o estudo, os participantes usaram uma interface simplificada do AI Clinician Explorer para avaliar e tomar decisões de tratamento para quatro casos de pacientes simulados.
“Pensamos que os médicos deixariam a IA tomar a decisão totalmente ou a ignorariam completamente e tomariam sua própria decisão”, disse Sivaraman.
Mas os resultados não foram tão binários. A equipe identificou quatro comportamentos comuns entre os médicos: ignorar, confiar, considerar e negociar. O grupo "ignorar" não permitiu que a IA influenciasse sua decisão e principalmente tomou suas decisões antes mesmo de ver a recomendação. Por outro lado, o grupo de "confiança" aceitou consistentemente pelo menos algumas das informações da IA em todas as decisões. No grupo 'considerar', os médicos pensaram sobre a recomendação da IA em cada caso e depois aceitaram ou rejeitaram. A maioria dos participantes, no entanto, caiu no grupo da "negociação", que inclui profissionais que aceitaram aspectos individuais das recomendações em pelo menos uma, mas não todas, de suas decisões.
A equipe ficou surpresa com esses resultados, que também forneceram insights sobre maneiras de melhorar o AI Clinician Explorer. Os médicos expressaram preocupação com o fato de a IA não ter acesso a dados mais holísticos, como a aparência geral do paciente, e ficaram céticos quando a IA fez recomendações contrárias ao que haviam aprendido.
"Quando o suporte à decisão clínica se desviou do que os médicos normalmente fariam ou considerariam a melhor prática, não havia uma boa ideia do motivo", disse Sivaraman. “Portanto, agora estamos nos concentrando em descobrir como fornecer esses dados e validar essas recomendações, que é um problema desafiador que exigirá aprendizado de máquina e IA”.
A pesquisa da equipe não pretende substituir ou replicar a tomada de decisão do médico, mas espera usar a IA para revelar padrões que podem ter passado despercebidos nos resultados anteriores dos pacientes.
“Existem muitas doenças, como a sepse, que podem se apresentar de maneira muito diferente para cada paciente, e o melhor curso de ação pode ser diferente dependendo disso”, disse Sivaraman. "É impossível para qualquer ser humano acumular todo esse conhecimento para saber como fazer as coisas da melhor maneira em todas as situações. Então, talvez a IA possa empurrá-los para uma direção que eles não consideraram ou ajudá-los a validar o que eles acham que é o melhor curso de ação.”