Inteligência artificial na saúde mental: revolução promissora ou novo risco aos pacientes?

A inteligência artificial (IA) tem potencial de mudar profundamente a forma como os cuidados de saúde são prestados. No entanto, o fato de ser transformadora não garante necessariamente que essas mudanças serão positivas, especialmente no contexto da saúde mental. Pacientes com transtornos mentais sofrem diversos desafios como acesso limitado a cuidados de qualidade, inconsistências nos diagnósticos, variabilidade na assistência oferecida e limitações inerentes aos próprios tratamentos disponíveis. Embora a IA seja frequentemente apresentada como uma estratégia para superar essas limitações, esse progresso não pode ser considerado garantido.

Em relação aos seus benefícios, de modo geral, a aplicação da IA pode ampliar o acesso aos cuidados de saúde e contribuir a uma assistência mais uniforme. Duas aplicações ilustram esses benefícios.

A primeira é o uso de modelos de linguagem para impulsionar chatbots capazes de oferecer terapias baseadas em evidências. Atualmente, o acesso à terapia cognitivo-comportamental (TCC), por exemplo, pode ser difícil. Além disso, não há garantia de que um determinado profissional esteja efetivamente oferecendo um cuidado baseado em evidências ou que esse tenha qualidade suficiente. A incorporação de chatbots poderia aliviar parte dessa demanda e permitir que a oferta limitada de terapeutas especializados em TCC se concentre em pacientes com quadros mais graves. Além disso, a automatização de terapias baseadas em evidências também pode ajudar a acelerar a inovação em tratamentos, tornando mais simples a disseminação e a investigação de novas abordagens terapêuticas.

A segunda aplicação é o suporte à decisão clínica. Estudos indicaram que grandes modelos de linguagem integrados a diretrizes terapêuticas conseguem identificar tratamentos apropriados para as próximas etapas em taxas semelhantes às de especialistas clínicos e superiores às de médicos generalistas. Igualmente importante, as taxas de identificação de tratamentos inadequados para a etapa seguinte são significativamente menores do que as observadas entre clínicos gerais, sugerindo uma oportunidade para evitar desfechos adversos decorrentes da seleção inadequada de medicamentos.

Em um horizonte mais longo, a IA poderá contribuir para o diagnóstico e o monitoramento dos pacientes. Ela também poderá ajudar a minimizar desfechos adversos dos tratamentos ao identificar indivíduos com maior risco, que necessitem de intervenções mais intensivas. Ao monitorar e analisar os resultados de forma mais sistemática, a IA poderá orientar o desenvolvimento de novos modelos de cuidado, permitindo inovações mais rápidas. Por fim, ela também deverá acelerar a ciência do desenvolvimento de tratamentos, tanto para psicoterapias quanto para terapias farmacológicas e outros tratamentos somáticos.

No entanto, existem riscos inerentes. Por exemplo, chatbots podem vir a se tornar um tratamento ambulatorial obrigatório para muitos transtornos psiquiátricos, criando uma nova etapa no processo de diagnostico. No futuro, seguradoras poderão exigir evidências de que o paciente tentou concluir um curso completo de TCC baseada em aplicativo antes de autorizar qualquer tratamento adicional.

Além disso, é provável que a IA produza outros efeitos não antecipados na prestação de cuidados. O uso de assistentes automatizados para documentação clínica (escribas) pode resultar em mudanças nos padrões de diagnóstico e manejo dos pacientes. Embora essas não sejam necessariamente negativas, elas destacam a importância de compreendê-las adequadamente, em vez de simplesmente presumir que toda implementação de IA seja benéfica. De maneira mais ampla, embora se presuma que os assistentes de documentação melhorem a eficiência dos profissionais e reduzam o esgotamento ocupacional (burnout), nem todos os estudos confirmaram esses benefícios. Mais importante ainda, o impacto desses sistemas sobre a qualidade do cuidado ao paciente ainda não foi bem caracterizado, especialmente no contexto da saúde mental.

Estudos demonstraram que a introdução da IA pode reduzir involuntariamente a qualidade do cuidado prestado pelos profissionais de saúde. Por exemplo, estudos ainda não conseguiram identificar o impacto do acesso instantâneo ao conhecimento em estudantes de medicina (usuários que mais utilizam esse tipo de tecnologia). Em outras áreas, a automação produziu tanto benefícios quanto prejuízos. O exemplo clássico é o uso do piloto automático e de sistemas de alerta na aviação. Sem dúvida, essas tecnologias previnem mais erros do que causam, permitindo que os pilotos concentrem sua atenção em aspectos específicos da operação da aeronave e evitando manobras que ultrapassem seus limites operacionais. Ao mesmo tempo, se reconhece o risco de que os pilotos se tornem excessivamente dependentes dessas ferramentas e menos capazes de pilotar de forma autônoma. A possibilidade de que o uso da IA produza efeito semelhante nas habilidades clínicas dos médicos merece investigação adicional.

Além disso, a tecnologia pode ser utilizada por financiadores e seguradoras na tentativa de reduzir custos e aumentar a eficiência do sistema. No entanto, a própria IA traz riscos tecnológicos específicos que exigem atenção à medida que é incorporada ao tratamento.

Um risco importante é o desalinhamento (misalignment), isto é, a possibilidade de que a IA oriente decisões terapêuticas ou conduza intervenções psicoterapêuticas que não estejam no melhor interesse do paciente individual. Uma ferramenta de apoio à decisão, por exemplo, pode ser desenvolvida para otimizar a redução de encaminhamentos para especialistas ou diminuir o uso de medicamentos mais caros, especialmente quando desfechos que mais importam aos pacientes, como funcionalidade e qualidade de vida, são difíceis de medir. Embora isso possa beneficiar o sistema de saúde como um todo, tal modelo não estaria alinhado às necessidades específicas de cada paciente.

O desalinhamento também representa riscos diretos aos pacientes quando as barreiras de proteção (guardrails), regras projetadas para impedir determinados comportamentos dos sistemas, falham ou quando a IA produz respostas inesperadas. Por exemplo, em um caso real, um chatbot voltado para transtornos alimentares passou a fornecer orientações para perda de peso aos usuários. Embora esse episódio tenha refletido a inexperiência dos desenvolvedores com a implementação de modelos de linguagem, ele evidencia um risco mais amplo: modelos podem se comportar de formas não previstas quando utilizados em larga escala. Diversos modelos de IA, em diferentes contextos, forneceram orientações ou incentivos relacionados a tentativas de suicídio. Da mesma forma, podem fornecer conselhos prejudiciais à saúde dos usuários, incluindo recomendações como “comer uma pequena pedra por dia”.

Fora do contexto dos serviços de saúde, uma IA desalinhada também pode causar danos. Um risco social específico é a possível redução das conexões sociais e das habilidades interpessoais. Embora essa preocupação ainda seja amplamente teórica, é plausível supor que um uso mais intenso da tecnologia para atividades parassociais, como conversas frequentes com assistentes virtuais, substitua parte das interações humanas reais. Algum grau dessa substituição pode ser benéfico, especialmente para aquelas que dispõem de poucas oportunidades de interação social. Ainda assim, é improvável que essas experiências consigam reproduzir integralmente os benefícios das relações humanas.

Procurando uma solução, infelizmente, nenhuma estratégia isolada é capaz de resolver todos esses pontos. Uma das soluções mais imediatas pode ser a regulamentação voltada para riscos específicos. Nos Estados Unidos, a capacidade da Food and Drug Administration (FDA) de regulamentar a IA aplicada à saúde é limitada pela 21st Century Cures Act, que restringe sua atuação principalmente a softwares utilizados para diagnóstico e tratamento.

O Congresso norte-americano também possui competência para regulamentar a tecnologia, mas até o momento demonstrou pouco interesse em fazê-lo. Em resposta a essa lacuna, diversos estados passaram a estabelecer suas próprias normas. No entanto, essas regras variam amplamente em escopo e impacto sobre a saúde.

Entre os temas regulatórios abordados estão a exigência de mecanismos de gestão de riscos, avaliações de impacto da IA e medidas para garantir justiça algorítmica. Uma abordagem fragmentada, baseada em regulamentações distintas para cada estado, pode dificultar a aplicação da IA na saúde e levar desenvolvedores a evitar determinadas jurisdições, inclusive algumas que desempenham papel importante no avanço da tecnologia. Por outro lado, na ausência de liderança federal, a atuação estadual pode ser o único meio viável de enfrentar potenciais danos.

Independentemente da origem da regulamentação, uma necessidade central é a transparência. Exigir que informações sobre os modelos utilizados sejam tornadas públicas ajudaria sistemas de saúde, profissionais e pacientes a tomar decisões mais informadas sobre o uso dessas tecnologias. Da mesma forma, seguradoras e financiadores poderiam ser obrigados a divulgar como e quando utilizam IA para orientar decisões relacionadas ao tratamento em saúde mental.

À medida que os efeitos das novas ferramentas se tornem mais claros, pode ser necessário restringir determinadas aplicações da IA na saúde mental, especialmente para evitar que elas se transformem em barreiras de acesso aos métodos convencionais de cuidado.

Outra estratégia importante para reduzir danos consiste em garantir que a próxima geração de médicos receba treinamento específico para utilizar ferramentas baseadas em IA na prática clínica. Implementar essa formação, contudo, não é simples. A tecnologia evolui rapidamente e, muitas vezes, os membros mais jovens das equipes de saúde são justamente aqueles que dominam melhor as novas ferramentas.

Em suma, ferramentas que incorporam inteligência artificial têm potencial para ampliar significativamente o acesso aos cuidados em saúde mental e melhorar tanto sua qualidade quanto sua segurança. Entretanto, essas tecnologias também apresentam riscos substanciais que muitas vezes são subestimados. Entre eles estão a redução do acesso ao atendimento humano, mudanças imprevistas na prática clínica, dependência excessiva de sistemas automatizados, decisões baseadas em modelos desalinhados aos interesses dos pacientes e efeitos negativos sobre o bem-estar social e psicológico em escala populacional. Considerar cuidadosamente as múltiplas formas pelas quais a IA pode afetar a saúde mental pode permitir o desenvolvimento de estratégias capazes de maximizar seus benefícios e minimizar seus riscos.