Inteligência artificial na saúde mental

Embora a inteligência artificial (IA) apresente um grande potencial para ampliar o acesso e a qualidade dos cuidados em saúde mental, seu uso também levanta preocupações relacionadas à precisão, segurança, privacidade e responsabilidade profissional. Essas questões são particularmente relevantes em grupos vulneráveis, como indivíduos com transtornos mentais, uma vez que ferramentas de IA amplamente disponíveis ao público, incluindo chatbots, nem sempre conseguem identificar ou avaliar adequadamente riscos clínicos relacionados à saúde mental.

Knol e colaboradores (2026) defenderam que a maximização dos benefícios da IA, aliada à mitigação desses riscos, requer uma abordagem multifacetada. Para isso, propuseram analisar as aplicações de IA a partir de suas afordâncias, ou seja, das capacidades de aplicação que possuem em determinado contexto. Essa análise pode ser estruturada pelos 5 W's: quem é afetado pela tecnologia (Who), o que ela pode fazer (What), quando atua (When), onde está inserida (Where) e porque toma determinadas decisões (Why). Segundo os autores, compreender essas dimensões é essencial para orientar o uso ético, seguro e apropriado da IA na saúde mental.

Após a identificação dos riscos, eles podem ser melhor gerenciados considerando a forma como a aplicação de IA é construída. Os atuais modelos de linguagem de grande porte (LLMs) apresentam limitações importantes, como a possibilidade de gerar informações incorretas, em parte por não possuírem um modelo de mundo (world model) que lhes permita distinguir de forma consistente entre informações verdadeiras e falsas.

Nesse contexto, os modelos neuro-simbólicos, que combinam a alta capacidade de processamento das redes neurais com mecanismos de raciocínio baseados em conhecimento explícito, surgem como uma alternativa promissora por favorecerem maior transparência, integração de conhecimento especializado e segurança para as aplicações de IA em saúde mental.

Os autores destacaram que a segurança e a eficácia do sistema dependem também da qualidade dos dados utilizados em seu treinamento. Como vieses sociais podem ser incorporados e até amplificados pelos modelos, há preocupações específicas na saúde mental, especialmente em relação à sub-representação de grupos racial e etnicamente minoritários e de indivíduos com transtornos mentais mais graves. Essa limitação pode comprometer a equidade e a precisão das aplicações de IA.

Além disso, os dados devem ser coletados e utilizados de forma ética e segura. Nesse contexto, cresce o interesse pelo uso de informações obtidas continuamente em ambientes naturais, por meio de dispositivos vestíveis (wearables) e smartphones, para fornecer indicadores em tempo real de cognição, comportamento social e psicopatologia, permitindo uma compreensão mais aprofundada e individualizada de cada pessoa.

Essas estratégias de amostragem intensiva frequentemente produzem uma abundância de dados heterogêneos difíceis de interpretar, tornando a análise baseada em IA uma ferramenta valiosa para identificar padrões subjacentes. Contudo, é importante observar que os dados de sensores usados nesses sistemas nem sempre são adequadamente protegidos pela legislação, pois frequentemente ficam na fronteira entre dados de consumo e dados médicos.  

Dessa forma, os riscos também devem ser mitigados por meio de regulamentações adequadas. Na União Europeia, a Lei da IA (AI Act) estabelece requisitos proporcionais ao nível de risco de cada sistema, além de definir obrigações para desenvolvedores, implementadores e usuários.

Nos Estados Unidos, o cenário regulatório envolve legislações estaduais, orientações da Food and Drug Administration (FDA), exigências da Health Insurance Portability and Accountability Act (HIPAA) e possíveis responsabilidades civis. Como exemplo, a Lei de Transparência em Inteligência Artificial de Fronteira da Califórnia exige que grandes desenvolvedores de IA relatem incidentes críticos de segurança e forneçam transparência sobre os métodos utilizados para avaliar os riscos de seus sistemas, reforçando o movimento em favor de uma regulamentação mais abrangente da IA.

Ao incorporar as recomendações acima, a IA pode se tornar uma ferramenta poderosa e segura para a saúde mental. Sistemas capazes de integrar amplo conhecimento médico a dados individualizados dos pacientes, preferencialmente por meio de modelos neuro-simbólicos, poderão oferecer uma compreensão mais abrangente dos fatores biológicos, psicológicos e sociais que influenciam a saúde mental, alinhando-se aos princípios do modelo biopsicossocial de Engel.

Embora persistam desafios, como erros diagnósticos, vieses algorítmicos e a exposição de dados sensíveis, eles podem ser mitigados por meio de regulamentação baseada em risco, uso de dados representativos, mecanismos robustos de segurança e supervisão humana. Dessa forma, a IA tem potencial para atuar como uma ferramenta segura e valiosa de apoio aos cuidados em saúde mental.