Quando os pacientes compartilham todas suas informações com a IA

Em janeiro de 2026, a OpenAI lançou o ChatGPT Health, um produto que permite que pacientes sincronizem seus prontuários eletrônicos de saúde (EHRs, na sigla em inglês) e dados de aplicativos de bem-estar diretamente com um modelo de linguagem de grande porte (LLM), recebendo respostas personalizadas para dúvidas relacionadas à saúde. Embora tecnologias tradicionais, como o ChatGPT, já fornecessem informações médicas, esses novos modelos permitem que os pacientes carreguem todos o seu prontuário médico, fornecendo informações a uma LLM comercial que muitos médicos não compartilhariam integralmente e sem filtro. Essa tecnologia traz tanto benefícios quanto riscos associados à violações de privacidade, discriminação e agravamento das disparidades em saúde. Abaixo, Ajunwa, Parikh e Cohen trouxeram suas reflexões sobre a nova tecnologia.

É verdade que a capacidade de agregar dados de saúde individuais e populacionais por meio de LLMs pode acelerar pesquisas sobre doenças raras, melhorar a vigilância epidemiológica e personalizar o gerenciamento da saúde. Um estudo de 2024 demonstrou que o GPT-4 conseguiu identificar publicações relacionadas a epidemias nas redes sociais com alta correlação em relação aos avaliadores humanos. Os LLMs também podem oferecer aos cientistas a possibilidade de obter, de forma econômica, os dados necessários para estudar e encontrar tratamentos para doenças órfãs ou raras, ao “gerar um diagnóstico diferencial inicial e acelerar as etapas subsequentes da investigação clínica”. No entanto, esses potenciais benefícios se baseiam na premissa questionável de que os dados subjacentes são precisos, imparciais e devidamente contextualizados, além de presumirem que tais benefícios efetivamente se concretizarão.

Atualmente, nenhuma dessas premissas é bem fundamentada. Pesquisadores independentes não conseguem auditar como o LLM se comporta em diferentes populações de pacientes, quais incidentes de segurança ocorreram ou se suas respostas amplificam vieses já documentados nos prontuários eletrônicos, porque a OpenAI controla todo o acesso aos dados de uso e aos resultados gerados. Sem exigências mais robustas de transparência para LLMs voltados ao consumidor na área da saúde, os efeitos agregados do carregamento em massa de prontuários sobre o comportamento de busca por cuidados, a confiança nos profissionais de saúde e a propagação de desinformação permanecerão não apenas desconhecidos no momento, mas potencialmente impossíveis de serem conhecidos.

O fato de que os pacientes agora podem sincronizar todo o seu prontuário eletrônico com um LLM com apenas um clique representa uma ruptura fundamental em relação à forma tradicional pela qual os registros médicos contribuem para a tomada de decisões clínicas. Quando um paciente busca uma segunda opinião pelos canais convencionais, o processo é seletivo por natureza. Um clínico geral que encaminha uma paciente com uma nova massa mamária para um oncologista cirurgião envia as imagens relevantes, os resultados anatomopatológicos e o histórico pertinente, e não todo o prontuário psiquiátrico da paciente, uma anotação de assistência social feita dez anos antes ou todos os registros de triagem de visitas anteriores ao pronto-socorro. Essa seletividade constitui um julgamento clínico importante, pois protege o paciente contra a influência de informações irrelevantes ou potencialmente preconceituosas na avaliação do especialista. LLMs como o ChatGPT Health eliminam essa etapa de curadoria.

Isso é importante porque os prontuários médicos não são repositórios neutros de fatos. Eles podem conter linguagem estigmatizante que afeta de forma desproporcional pacientes negros, influenciar mensuravelmente as atitudes dos médicos e seus comportamentos de prescrição, e, quando incorporados a sistemas algorítmicos, reproduzir sistematicamente os vieses dos profissionais que geraram os dados. Considere uma mulher negra de 28 anos com doença falciforme cujo prontuário contém anotações de triagem descrevendo-a como alguém em busca de medicamentos (“drug-seeking”). Ela sincroniza seu prontuário esperando compreender melhor suas opções para controle da dor. O LLM absorve esses rótulos e devolve não uma segunda opinião, mas um eco algorítmico, incentivando-a a buscar alternativas não opioides que podem ser ineficazes. Ou considere um homem de 55 anos cuja dor no peito foi registrada duas vezes como “provável ataque de pânico” antes que uma terceira consulta revelasse angina instável. As anotações anteriores permanecem no prontuário. Se ele perguntar a um LLM se sua sensação de aperto no peito merece preocupação, o modelo poderá se ancorar na interpretação anterior de ansiedade, oferecendo tranquilização justamente quando essa é perigosa. Em última análise, carregar prontuários eletrônicos que refletem as desigualdades existentes na assistência à saúde, sem salvaguardas adequadas que permitam ao LLM interpretar corretamente esses dados, corre o risco de reproduzir erros diagnósticos, pressupostos enviesados e consolidar as disparidades de saúde presentes na sociedade. Isso é especialmente preocupante porque os LLMs não conseguem questionar e corrigir o que está documentado em um prontuário da mesma forma que um profissional humano poderia fazer.

A ampliação do uso de prontuários médicos por LLMs também gera novos riscos jurídicos para os pacientes. Quando uma pessoa envia todo o seu prontuário eletrônico para um LLM, essa informação continua legalmente protegida como dado privado? A Lei de Portabilidade e Responsabilidade de Seguros de Saúde dos Estados Unidos (HIPAA) permite que os pacientes obtenham uma cópia de seus prontuários para alimentar um LLM em busca de uma “segunda opinião digital”. Entretanto, como um LLM não é uma “entidade coberta” nos termos da HIPAA, uma vez que o paciente envia seus registros, a legislação deixa de limitar ou regular o que o modelo ou seu desenvolvedor podem fazer com essas informações. Em particular, as regras da HIPAA relativas à proibição de compartilhamento de dados além da entidade coberta ou de seus parceiros comerciais sem autorização do paciente, bem como os requisitos de remoção de identificadores pessoais, deixam de se aplicar. Além disso, a chamada Regra de Segurança da HIPAA, que impõe salvaguardas administrativas, físicas e técnicas e estabelece obrigações de notificação em caso de violação de dados, também não se aplica a um prontuário compartilhado diretamente pelo paciente com um LLM. E nenhuma dessas atividades seria supervisionada pelo Departamento de Saúde e Serviços Humanos dos Estados Unidos.

A OpenAI afirma ter implementado proteções reforçadas de privacidade para o ChatGPT Health. A empresa destaca que foram adicionadas “camadas adicionais de proteção projetadas especificamente para a área da saúde, incluindo criptografia especializada e mecanismos de isolamento para manter as conversas de saúde protegidas e compartimentalizadas”. Além disso, promete que as informações de saúde compartilhadas pelos usuários não serão utilizadas para treinar os “modelos fundamentais”. No entanto, essas proteções são substitutos frágeis para o regime jurídico da HIPAA. Além disso, como demonstrado recentemente pela falência da empresa 23andMe, quando os termos de uso e as políticas de privacidade constituem a principal forma de proteção oferecida aos pacientes, as empresas que coletam essas informações permanecem livres para alterar suas políticas a qualquer momento, inclusive após os pacientes já terem enviado seus registros de saúde sensíveis.

As consequências da exposição de dados de pacientes por meio de LLMs podem ser graves. Informações extraídas dos prontuários podem ser utilizadas para determinar elegibilidade para seguros, estabelecer preços de cobertura ou avaliar candidatos a emprego de maneira desfavorável. A Lei dos Americanos com Deficiência (ADA) restringe a discriminação contra pessoas com deficiência, mas define deficiência como “um comprometimento físico ou mental que limita substancialmente uma ou mais atividades importantes da vida; um histórico desse comprometimento; ou a percepção de possuir tal comprometimento”. Dessa forma, muitas condições de saúde que podem ser inferidas a partir da análise de um prontuário não estão cobertas por essa proteção legal.

Já a Lei de Não Discriminação por Informação Genética (GINA) proíbe empregadores e seguradoras de saúde de usar informações genéticas para tomar decisões sobre contratação, demissão ou cobertura, com base em testes genéticos ou histórico familiar. Contudo, ela não protege contra discriminação baseada em doenças já diagnosticadas e manifestadas. Os reguladores definem “manifestada” como uma condição pela qual uma pessoa já foi ou poderia razoavelmente ser diagnosticada por um profissional de saúde qualificado. Essa exclusão abrange grande parte das informações encontradas em prontuários médicos enviados a um LLM. Além disso, a GINA não oferece proteção contra discriminação relacionada à elegibilidade para seguros de vida, seguros de cuidados prolongados ou seguros por invalidez. Muitos pacientes que carregariam seus prontuários em LLMs desconhecem esses riscos, e as atuais políticas de privacidade dos desenvolvedores não oferecem proteção adequada.

Em suma, LLMs como o ChatGPT Health prometem diversas aplicações úteis. Modelos que incorporam dados de saúde podem abrir caminho para uma medicina mais personalizada e ajudar cientistas na detecção precoce de pandemias ou na identificação de doenças raras. Contudo, atualmente não existem salvaguardas legais suficientes para proteger adequadamente os dados sensíveis de saúde que os pacientes enviam a esses sistemas. Igualmente importante, não há mecanismos que obriguem os desenvolvedores a compartilhar dados de uso e resultados com pesquisadores independentes. Portanto, qualquer resposta regulatória significativa deveria combinar proteções de privacidade com requisitos de acesso a dados por pesquisadores e auditorias pós-implementação, permitindo que os efeitos populacionais dos LLMs de saúde voltados ao consumidor sejam monitorados, em vez de simplesmente presumidos. Trata-se de uma tarefa importante que demanda ação tanto da indústria quanto dos governos.