Como preservar as habilidades clínicas na era da assistência da IA?

Em quatro centros de endoscopia poloneses, dezenove gastroenterologistas e cirurgiões que utilizaram um sistema de detecção de pólipos por inteligência artificial (IA) durante 3 meses apresentaram um declínio nas taxas de detecção de adenomas ao realizar colonoscopias sem IA posteriormente. Como um grupo, seu desempenho pós-IA na detecção de pólipos ficou abaixo de sua própria linha de base pré-IA. Alguns endoscopistas experimentaram quedas drásticas, enquanto outros mantiveram seu desempenho. Essa descoberta sugeriu que a perda de habilidades não é inevitável e que devemos procurar abordagens para mitiga-la à medida que a IA se torna parte integrante do atendimento de rotina.

Podemos aprender com outros setores que há muito lidam com o equilíbrio entre automação e retenção de habilidades. Na aviação, os sistemas de piloto automático trouxeram ganhos de segurança, mas também levantaram preocupações sobre a erosão das habilidades de voo manual. Os reguladores responderam exigindo tempo de voo prático rotineiro e sessões de simulador que imitam falhas do sistema. Os operadores de usinas nucleares ensaiam cenários críticos em intervalos regulares para garantir que, se a automação falhar, as habilidades essenciais permaneçam intactas.

O potencial de perda de habilidades relacionadas à IA se estende muito além da endoscopia gastrointestinal. As especialidades cirúrgicas e intervencionistas exigem vigilância constante e prontidão para responder a eventos inesperados. Dermatologia, patologia e radiologia exigem análise visual meticulosa e reconhecimento de padrões. Além de procedimentos ou interpretação de imagens, o raciocínio clínico para diagnóstico, tomada de decisões e gerenciamento de pacientes exige pensamento crítico que pode ser corroído pelas interações com a IA. Os encontros com pacientes são frequentemente apressados, deixando pouco espaço para análises e raciocínios mais profundos. Não é de admirar, então, que os médicos acolham a promessa da IA de compartilhar a carga. Mas quando a IA se torna enraizada na prática clínica, novos riscos surgem. A vigilância pode diminuir, as habilidades podem se deteriorar e, quanto mais os médicos confiam na IA, menos confiantes podemos nos tornar em nosso próprio julgamento, sem assistência.

Essas preocupações são especialmente relevantes durante a formação médica. Os médicos em treinamento podem depender da IA antes de desenvolverem totalmente as competências essenciais, ou seja, nunca adquirir a habilidade, deixando pouca base para recorrer se a tecnologia falhar. Proteger as habilidades e o pensamento crítico dos médicos em um ambiente habilitado por IA não terá uma única solução simples. A trajetória da perda de habilidades, dependência excessiva ou perda de vigilância variará entre algoritmos, especialidades e contextos, assim como as soluções potenciais. Uma salvaguarda pode ser construir intervalos curtos e deliberados de "IA desligada" ou "IA atrasada" nos fluxos de trabalho, para recalibrar a vigilância e capturar medidas objetivas do desempenho sem assistência. Durante as sessões de treinamento ou manutenção de habilidades, as interpretações da IA podem ser definidas para aparecer somente depois que o leitor registrar suas próprias descobertas.

Outra abordagem é traçar limites mais firmes: a IA assume o trabalho baseado em regras, de alto volume e baixa ambiguidade, liberando os médicos para se concentrarem mais em decisões contextuais, ambíguas e de alto risco. Por exemplo, em radiologia, um algoritmo de IA pode excluir com segurança radiografias de tórax normais para que os radiologistas possam se concentrar em achados sutis ou complexos. Tais limites ajudariam a reduzir o viés de automação (confiar excessivamente em resultados incorretos da IA) e a negligência da automação (ignorar os corretos), que podem surgir quando as tarefas são supostamente compartilhadas. Seja qual for a estratégia, a base deve ser a capacidade contínua dos clínicos de avaliar a confiabilidade de qualquer ferramenta de IA.

O estudo sobre a perda de habilidades em colonoscopia com IA não é uma acusação contra a tecnologia. Evidências de mais de quarenta ensaios randomizados para detecção de pólipos por IA mostraram que ela ajuda os médicos a detectar mais pólipos de cólon pré-cancerosos. Devemos acolher tal progresso, mas permanecer vigilantes sobre como o comportamento dos médicos e os cuidados clínicos mudarão à medida que a IA se torna incorporada na prática. A adoção da tecnologia está acelerando, mas os fluxos de trabalho e os hábitos estão abertos a serem moldados. As escolhas que as quais os profissionais fazem agora sobre como projetam, integram e treinam em torno da IA determinarão se esses sistemas elevam a profissão ou corroem silenciosamente as habilidades que a definem.