Navegando sobre os riscos inexplorados dos escribas de IA na prática clínica

A inteligência artificial (IA) aplicada a escribas clínicos, ferramentas que capturam e resumem passivamente conversas clínicas, está remodelando rapidamente a documentação médica. Prometendo reduzir a carga administrativa que contribui para o burnout de profissionais de saúde, essas ferramentas já são utilizadas em aproximadamente 30% dos consultórios médicos nos Estados Unidos, com adoção crescente em grandes sistemas de saúde e plataformas de prontuário eletrônico (EHR, sua sigla em inglês para electronic health records). Estudos sugeriram que escribas de IA podem reduzir o tempo de documentação em 20% a 30%, oferecendo potencial para melhorar o bem-estar dos profissionais e ampliar a capacidade de atendimento ao paciente.

No entanto, a velocidade da adoção ultrapassou a validação, a transparência e a supervisão regulatória. Para compreender os riscos exclusivos dos escribas de IA, é útil contrastá-los brevemente com escribas humanos tradicionais e ferramentas automatizadas de ditado. Escribas médicos humanos documentam manualmente os atendimentos em tempo real e, em ensaios randomizados, são mais de quatro vezes mais propensos a produzir notas que os médicos classificam como “precisas” em comparação com a autodocumentação padrão. Sistemas automatizados de reconhecimento de voz geralmente apresentam taxas de erro mais altas, tipicamente 7% a 11%, devido à complexidade do jargão médico e à variabilidade de sotaques. Escribas modernos baseados em IA, que utilizam grandes modelos de linguagem, relataram taxas de erro geral mais baixas (≈ 1%–3%), mas introduzem modos de falha distintos, como alucinações (conteúdo gerado que parece plausível, mas não tem base real), omissões críticas, atribuições incorretas e interpretações contextuais equivocadas, criando novos desafios de segurança.

A escala da implementação é impressionante. Um grande sistema de saúde relatou que mais de 7.000 médicos utilizaram escribas de IA em mais de 2,5 milhões de atendimentos ao longo de apenas 14 meses. Principais fornecedores de EHR integraram capacidades de documentação ambiente diretamente em suas plataformas, acelerando ainda mais a adoção. Os escribas de IA variam significativamente em design e implementação. Alguns operam como aplicativos independentes de terceiros que exigem a transferência manual do conteúdo para os sistemas de EHR, enquanto outros se integram diretamente às principais plataformas para uma incorporação mais fluida ao fluxo de trabalho. Os sistemas também diferem em suas abordagens de processamento: alguns oferecem escuta ambiente em tempo real, enquanto outros realizam o processamento após o atendimento, a partir de conversas gravadas.

Essa rápida adoção de escribas de IA foi impulsionada principalmente pela promessa de ganhos substanciais de eficiência. Embora a maioria das implementações tenha se concentrado em médicos, enfermeiros e outros profissionais de saúde que dedicam grande parte do tempo a tarefas de documentação também podem potencialmente se beneficiar de melhorias semelhantes. Em um estudo de melhoria de qualidade com 45 profissionais de 17 especialidades, incluindo enfermeiros especialistas e assistentes médicos, escribas de IA ambiente reduziram o tempo de documentação em mediana de 2,6 minutos por consulta e diminuíram em 29,3% o trabalho em EHR fora do horário de expediente. Da mesma forma, um estudo observacional envolvendo 119 profissionais de saúde, incluindo fisioterapeutas, podólogos e terapeutas ocupacionais, encontrou uma redução de 33% no tempo de documentação, juntamente com maior produtividade e satisfação, sem afetar a experiência do paciente. Esses ganhos oferecem uma oportunidade significativa para melhorar o bem-estar dos profissionais e ampliar a capacidade para o atendimento direto ao paciente.

Apesar dos benefícios promissores, existem preocupações significativas quanto à precisão e à confiabilidade das notas clínicas geradas por IA. Mesmo estudos que relataram taxas relativamente baixas de alucinações de IA (cerca de 1%–3%) reconhecem que, na área da saúde, mesmo um pequeno percentual de erros pode ter implicações profundas para a segurança do paciente. Experiências do mundo real têm ilustrado diversos tipos de falhas na documentação:

·       Alucinações de IA (fabricações): sistemas de inteligência artificial podem gerar conteúdo totalmente fictício, como registrar exames que nunca ocorreram ou criar diagnósticos inexistentes.

·       Omissões: informações críticas discutidas durante o atendimento podem não aparecer na nota gerada, incluindo sintomas, preocupações ou achados clínicos relevantes.

·       Interpretações equivocadas: afirmações dependentes de contexto podem ser mal interpretadas, levando à documentação incorreta de tratamentos, medicamentos ou planos de cuidado. Além desses erros baseados em áudio, escribas de IA são fundamentalmente limitados à entrada sonora e não capturam comunicação não verbal, como linguagem corporal do paciente ou sinais visuais de sofrimento que um escriba humano poderia observar.

·       Erros de atribuição de fala: sistemas atuais têm dificuldade em distinguir de forma consistente entre múltiplos interlocutores, podendo atribuir falas do paciente ao clínico ou vice-versa. Além disso, os sistemas de reconhecimento de voz apresentam disparidades sistemáticas de desempenho, resultando em taxas de erro significativamente maiores e menor precisão para falantes afro-americanos.

Esses riscos não são novos. Sistemas anteriores de reconhecimento de voz já causaram danos a pacientes devido a erros de transcrição, como documentar incorretamente “ausência de fluxo vascular” em vez de “fluxo vascular normal”, levando a um procedimento desnecessário, ou confundir a localização de um tumor, resultando em cirurgia no local errado.

Agravando o problema está a natureza de “caixa‑preta” desses sistemas. Os algoritmos de redes neurais subjacentes não são necessariamente orientados por conhecimento médico estabelecido, dificultando a compreensão de como chegam a conclusões específicas ou a previsão de quando erros podem ocorrer. Essa falta de transparência torna desafiadora a identificação de vieses dentro do sistema e a garantia da confiabilidade da documentação gerada. Técnicas emergentes de explicabilidade, que identificam características linguísticas que desencadeiam certos resultados, oferecem abordagens promissoras para aumentar a transparência da IA. No entanto, sua eficácia e implementação prática para sistemas de documentação clínica ainda exigem validação adicional.

Pesquisas identificaram lacunas significativas entre a comunicação verbal em ambientes de saúde e o que efetivamente é documentado nos prontuários eletrônicos (EHR). Um estudo de Song et al. (2022) constatou que aproximadamente 50% dos problemas do paciente e 21% das intervenções discutidas verbalmente entre enfermeiros e pacientes em atendimento domiciliar nunca foram documentados no EHR.

Isso levanta questões críticas sobre como os escribas de IA podem alterar os padrões de documentação. Esses sistemas passarão a documentar tudo o que for discutido, potencialmente criando sobrecarga de informações? Ou irão filtrar seletivamente com base em critérios pouco claros? Ambas as abordagens apresentam desafios. Uma documentação completa poderia capturar informações anteriormente negligenciadas, mas também poderia saturar o prontuário com detalhes menos relevantes clinicamente.

Por outro lado, se os escribas de IA aplicarem algoritmos de filtragem, poderão perpetuar ou até ampliar lacunas existentes de documentação, sem a compreensão contextual que profissionais humanos possuem. Esses riscos podem afetar de maneira desproporcional populações vulneráveis, que têm menor capacidade de realizar auto-defesa eficaz. Zolnoori et al., (2024) documentaram disparidades significativas no desempenho do reconhecimento automático de fala, com sistemas de IA apresentando menor precisão ao transcrever falas de pacientes negros em comparação com pacientes brancos.

As implicações para a comunicação interprofissional são significativas. Se diferentes membros da equipe de cuidado utilizarem escribas de IA com algoritmos ou sensibilidades distintas, inconsistências documentais podem ampliar as lacunas de comunicação, prejudicando, em vez de fortalecer, o cuidado coordenado.

Nijor et al., (2022) demonstraram consistentemente que médicos enfrentam sobrecarga de informações em EHR, com estudos associando excesso de dados clínicos ao aumento de estresse e carga documental. Escribas de IA podem ampliar esse paradoxo ao documentar de forma abrangente todas as discussões, potencialmente sobrecarregando profissionais que precisam revisar e validar extensos conteúdos gerados por IA. Considerando que pesquisas anteriores identificaram que cerca de 50% dos problemas discutidos verbalmente nunca foram documentados, escribas de IA que capturam tudo podem criar um problema inverso: excesso de informação, em vez de resolver o problema original das lacunas seletivas.

Agrava ainda mais essas preocupações o fato de que evidências recentes sugeriram que escribas de IA podem gerar consequências não intencionais que, paradoxalmente, aumentam a carga de trabalho médico. Ma et al., (2025) identificaram que os escribas de IA economizaram apenas 34 segundos por nota, com alta variabilidade individual, significando que muitos médicos tiveram benefício mínimo. Organizações de saúde podem reagir aumentando expectativas de volume de pacientes com base nos ganhos de eficiência prometidos, criando um paradoxo de carga de trabalho, no qual pequenas economias de tempo são compensadas por maiores demandas e pelo esforço cognitivo adicional de revisar erros gerados por IA.

A integração de escribas de IA na saúde levanta questões fundamentais sobre consentimento do paciente. Embora o consentimento para gravação de conversas clínicas seja essencial, os requisitos legais variam entre jurisdições. As organizações de saúde devem implementar uma robusta criptografia de dados e estabelecer protocolos de armazenamento seguro. Para além do consentimento imediato para gravação, os escribas de IA levantam questões complexas sobre uso secundário de dados. Os vastos repositórios de conversas de pacientes gerados por esses sistemas criam conjuntos de dados valiosos para pesquisa e desenvolvimento de IA. No entanto, pacientes que fornecem informações clínicas para tratar problemas específicos de saúde podem não esperar que seus dados sejam usados para treinar algoritmos ou para fins comerciais. Esse uso secundário não consentido pode erosionar a confiança do paciente, especialmente entre comunidades com histórico de exploração médica. O desafio se agrava quando dados agregados de pacientes provenientes de escribas de IA são usados para desenvolver novos produtos de IA ou vendidos a terceiros, criando valor econômico a partir das interações dos pacientes sem consentimento explícito para essa comercialização.

A responsabilidade legal em caso de erros é outro ponto ainda não resolvido. Clínicos podem hesitar em adotar escribas de IA se correrem o risco de serem responsabilizados por erros de documentação gerados por algoritmos. Atualmente, a maioria dos escribas de IA opera sem supervisão específica da Food and Drug admininstration (FDA), pois frequentemente são classificados como ferramentas administrativas e não como dispositivos médicos, criando uma lacuna regulatória que deixa padrões de segurança e eficácia amplamente sem endereçamento.

Escribas de IA também levantam preocupações sobre a autonomia do profissional, já que clínicos podem se tornar excessivamente dependentes da documentação gerada por IA potencialmente comprometendo sua independência e julgamento clínico.

As considerações éticas envolvendo escribas de IA vão além das questões técnicas de privacidade e envolvem perguntas fundamentais sobre prática clínica e cuidado ao paciente. Klufas et al., (2026) investigaram se escribas humanos e de IA são eticamente equivalentes, aplicando princípios bioéticos de beneficência, não maleficência, autonomia e justiça à implementação de escribas de IA. Embora a tecnologia possa melhorar a eficiência e padronizar o cuidado (beneficência), também introduz riscos de erros de documentação que exigem correção por médicos para evitar danos (não maleficência), levanta preocupações sobre autonomia do paciente em relação ao consentimento para uso de IA e podem promover injustiça ao apresentar riscos desproporcionalmente maiores aos pacientes mais vulneráveis. Diferentemente de escribas humanos, que desenvolvem compreensão das preferências do profissional e podem exercer julgamento, sistemas de IA operam sem raciocínio contextual, alterando fundamentalmente a natureza da documentação clínica.

Integrar escribas de IA representa uma oportunidade significativa para enfrentar a carga de documentação, mas sua adoção acelerada sem validação abrangente levanta preocupações substanciais. As seguintes ações-chave são recomendadas:

·       Estabelecer padrões rigorosos de validação

·       Exigir transparência

·       Desenvolver estruturas regulatórias claras

·       Implementar protocolos clínicos cuidadosos

·       Investir em pesquisa

Implementar essas recomendações exige ações coordenadas em múltiplos níveis. No nível federal, órgãos reguladores como a FDA devem desenvolver diretrizes claras para a classificação e supervisão de escribas de IA. Departamentos de saúde estaduais e locais devem estabelecer padrões de implementação que reflitam as necessidades regionais. No nível institucional, hospitais e sistemas de saúde devem desenvolver estruturas internas de governança para a implantação de escribas de IA.

Os escribas de IA oferecem grande potencial para reduzir o burnout dos profissionais de saúde ao aliviar as cargas de documentação. No entanto, essa promessa deve ser ponderada frente a riscos como erros de documentação, preocupações com privacidade e falta de transparência. À medida que a tecnologia avança, é fundamental equilibrar inovação e salvaguardas por meio de validação rigorosa, transparência, regulamentações claras e implementação cuidadosa, a fim de proteger a segurança do paciente e preservar a integridade clínica.