Transcrições de consultas médicas: o dilema entre a segurança jurídica e o potencial de pesquisa

A inteligência artificial (IA) que "ouve" os encontros clínicos e gera anotações de pacientes está sendo amplamente adotada em toda a área da saúde, com algumas instituições usando este software para milhões de consultas a cada ano. Para produzir um rascunho da anotação, a IA primeiro cria uma gravação de áudio e uma transcrição da conversa entre paciente e médico. Este desenvolvimento é notável: pela primeira vez, as conversas clínicas estão sendo gravadas em larga escala. No entanto, devido a preocupações com a responsabilidade civil por negligência médica, muitas instituições de saúde dos Estados Unidos estão excluindo as transcrições após a finalização das anotações e não estão recebendo gravações de áudio dos sistemas de IA.

Essa destruição de milhões de transcrições de consultas clínicas é inaceitável. Ela impede uma avaliação significativa da IA, e as iniciativas de pesquisa clínica e de melhoria da qualidade ficam limitadas ao uso de anotações resumidas, em vez dos dados primários das próprias palavras dos pacientes. Além disso, enquanto as partes interessadas clínicas e de pesquisa atualmente não têm acesso a dados detalhados de transcrição, as empresas de IA estão recebendo diálogos valiosos para treinar a próxima geração de ferramentas de clínica conversacional. Para maximizar o potencial da IA, é necessário tanto aumentar a conscientização sobre o valor das transcrições quanto abordar as barreiras legais para sua retenção.

Os assistentes de IA são ferramentas de software alimentadas por grandes modelos de linguagem que gravam, transcrevem e resumem consultas clínicas. Essas ferramentas foram coletivamente chamadas de um "tsunami" que transformará a área da saúde, com a implementação acelerando rapidamente entre as instituições de saúde. Como os assistentes de IA não se qualificam como dispositivos médicos, essa adoção e uso generalizados estão ocorrendo sem a supervisão rotineira da Food and Drug Administration (FDA).

Antes de produzir um rascunho da nota da consulta, os assistentes de IA criam uma transcrição completa (e, geralmente, uma gravação de áudio) da conversa clínica. Em teoria, os médicos podem cruzar essa transcrição ao revisar a nota gerada por IA. Depois que uma nota é finalizada, no entanto, a transcrição não se torna parte do registro oficial do paciente, e os sistemas de saúde devem decidir se a retêm. As instituições não têm compartilhado publicamente suas políticas de retenção de transcrições. No entanto, a grande maioria está excluindo as transcrições após a finalização das notas e não estão recebendo gravações de áudio. Da mesma forma, as empresas de IA divulgam que estão excluindo as transcrições, embora não haja uma garantia legal em relação a isso.

A destruição em larga escala de transcrições de assistentes de IA reflete a realidade de que essas têm valores muito diferentes entre as diversas partes interessadas. Para os sistemas de saúde, as transcrições são efetivamente "escape digital", subprodutos inevitáveis, mas potencialmente prejudiciais do uso de ferramentas de assistentes de IA que criam riscos, com poucos ou nenhum benefício clínico percebido. A principal preocupação dos sistemas de saúde em relação à retenção de transcrições tem sido a responsabilidade civil por negligência médica. Especificamente, as transcrições criam um rastro documental do que foi discutido durante as consultas clínicas e podem ser descobertas em ações judiciais por negligência, embora não tenhamos conhecimento de exemplos de tais casos até o momento. Ao excluir as transcrições, as instituições as preservam por tempo suficiente para a edição das notas e aprovação do médico, mas as destroem antes que os advogados provavelmente entrem com ações judiciais na maioria dos casos.

No entanto, as mesmas características que tornam as transcrições assustadoras para os sistemas de saúde, as transformam em "ouro digital" para especialistas em melhoria de qualidade e pesquisadores. Transcrições devidamente validadas fornecem uma "verdade fundamental" para avaliar a precisão e a qualidade dos resumos gerados por IA, características de desempenho fundamentais que não têm sido amplamente divulgadas Por exemplo, apesar de evidências de que os assistentes de IA reduzem as cargas de documentação e podem mitigar o burnout, há uma falta de estudos que avaliem com que frequência esses resumos incluem alucinações ou outros erros, e se os médicos os detectam.

Além disso, ao capturar as palavras exatas usadas por pacientes e médicos durante as consultas, as transcrições abrem novas possibilidades para estudar a comunicação clínica, o diagnóstico e as doenças. Por exemplo, a probabilidade de erro de diagnóstico aumenta quando os médicos interrompem os pacientes com mais frequência? Pacientes com cânceres raros mencionam sintomas sutis e não apreciados anos antes do diagnóstico? Qual é a verdadeira amplitude dos sintomas descritos pelos pacientes, fora da nomenclatura médica padronizada e dos bordões excessivamente simplificados (por exemplo, "a pior dor de cabeça da minha vida") que têm sido tipicamente usados na medicina? Responder a essas perguntas em escala, o que antes era impossível, oferece oportunidades poderosas para transformar o atendimento ao paciente e melhorar os resultados.

Enquanto os sistemas de saúde destruírem as transcrições, questões básicas sobre a qualidade e a segurança dos assistentes de IA permanecerão sem resposta, e oportunidades para avançar o atendimento serão desperdiçadas. Enquanto isso, as empresas de IA que retêm transcrições e gravações de áudio desidentificadas estão acumulando diálogos clínicos que podem usar para construir produtos futuros. Reter as transcrições de forma segura e protegida é possível, mas ações em várias áreas serão necessárias para mudar o cálculo de risco-benefício para os sistemas de saúde.

É importante que os profissionais de saúde defendam a retenção das transcrições. As decisões sobre essa retenção geralmente cabem aos comitês de gerenciamento de riscos liderados por advogados institucionais que veem os potenciais danos, mas não seus benefícios. Por exemplo, a maioria dos advogados institucionais presume que os assistentes de IA foram aprovados pelo FDA. Uma vez que percebem que essas ferramentas não foram submetidas a uma avaliação independente rigorosa, podem apreciar os benefícios envolvidos na retenção de transcrições para estudar o desempenho da ferramenta. Além disso, à medida que mais pacientes criam suas próprias transcrições de consultas usando gravações de telefone e outros dispositivos habilitados para IA, os sistemas de saúde que destroem as transcrições perderão registros alternativos que poderiam ser usados para resolver disputas sobre fatos ou diálogos.

É importante que se crie mecanismos formais de compartilhamento de políticas institucionais. Aumentar o diálogo interinstitucional também proporcionaria oportunidades valiosas para os sistemas de saúde compartilharem conhecimento e experiência e abrir caminhos para que os pacientes expressem suas opiniões nesta área. As conversas poderiam abranger as melhores práticas para obter o consentimento do paciente para o uso de transcrições de consultas em pesquisa e para armazenar e conceder acesso às transcrições de forma segura.

Uma alternativa seria os sistemas de saúde adotarem abordagens graduais para a retenção de transcrições. Por exemplo, a desidentificação permanente das transcrições para que não possam ser vinculadas a pacientes e médicos individuais elimina muitos riscos legais, preservando o valioso diálogo conversacional. Além disso, mesmo as transcrições que contêm informações de identificação pessoal podem ser protegidas da descoberta legal quando são usadas estritamente para melhoria da qualidade, como avaliações da precisão do assistente de IA ou iniciativas destinadas a aprimorar a comunicação clínica. Para as transcrições que carregam o maior risco, novas proteções estatutárias podem ser necessárias para apoiar o armazenamento em larga escala. Essas proteções poderiam incluir portos seguros legais ou períodos de "apagão" de negligência que protegem as transcrições da descoberta para fornecer incentivos para uso seguro em pesquisa e promover benefícios sociais mais amplos. No entanto, é improvável que tais iniciativas legais sejam empreendidas sem a defesa de pesquisadores e médicos.

Os assistentes de IA são a rara inovação que tanto as altas gerências de saúde quanto os médicos da linha de frente abraçaram, e seu uso está se acelerando rapidamente. No entanto, enquanto as transcrições e outros dados brutos gerados pelos assistentes de IA forem destruídos, a área médica perderá oportunidades cruciais para avaliar a precisão dos assistentes de IA e renunciar a poderosas oportunidades de pesquisa possibilitadas pela captura do diálogo paciente-médico. Acreditamos que pesquisadores, médicos e advogados devem colaborar para avançar a compreensão do valor das transcrições e criar estratégias para preservá-las.