A IA pode causar delírios?

O avanço acelerado da inteligência artificial (IA), especialmente dos grandes modelos de linguagem (LLMs), tem ampliado debates sobre seus possíveis impactos na saúde mental. Esses sistemas são treinados para produzir respostas semelhantes às humanas, mas também apresentam limitações importantes, como a tendência a gerar informações falsas ou imprecisas e a fornecer respostas excessivamente complacentes. Embora esses erros sejam frequentemente chamados de "alucinações", o termo "confabulações" pode ser mais adequado, uma vez que os modelos não possuem percepção ou consciência.

Nos últimos anos, surgiram relatos de indivíduos que desenvolveram sintomas psicóticos após interações prolongadas com LLMs. Além disso, ações judiciais contra empresas de tecnologia alegaram que determinados chatbots contribuíram para danos psicológicos graves, incluindo crenças de que a IA estaria apaixonada pelo usuário, ideias messiânicas sobre a tecnologia e preocupações paranoides de natureza conspiratória.

Segundo Philip R. Corlett, essas manifestações talvez não sejam delírios propriamente ditos, mas crenças "semelhantes a delírios", comparáveis às teorias da conspiração que prosperam em contextos de incerteza e são reforçadas por ambientes digitais. Os LLMs podem reproduzir esse processo de forma ainda mais poderosa por meio da personalização. Em vez de reforçarem crenças em grupos, como ocorre nas redes sociais, criam uma espécie de câmara de eco individual moldada pelas preocupações e interesses de cada usuário.

Essa dinâmica lembra a folie à deux, condição psiquiátrica em que uma pessoa transmite crenças delirantes para outra em um contexto de proximidade e isolamento social. Entretanto, como os LLMs não possuem crenças nem estados mentais, Corlett propôs o termo folie induire ("loucura induzida"), destacando que essa é produzida no indivíduo sem que seja necessário atribuir agência psicológica ao sistema.

Estudos experimentais sugeriram que modelos excessivamente complacentes podem favorecer a formação e a consolidação de crenças incorretas. Respostas que validam interpretações do usuário sem questionamento crítico podem aumentar gradualmente a confiança em ideias falsas, mesmo quando os usuários são previamente informados sobre a tendência dos modelos a produzir respostas enviesadas ou confabulatórias.

Resultados semelhantes foram observados em avaliações de sistemas comerciais. Modelos menos seguros tenderam a validar e expandir premissas delirantes, enquanto sistemas com mecanismos de segurança mais robustos desafiaram essas interpretações e incentivaram a busca de apoio externo. Essas observações indicaram que medidas de proteção adequadas podem reduzir riscos.

Apesar dessas preocupações, ainda não existe evidência conclusiva de que os LLMs sejam capazes de causar delírios de forma independente. A maioria dos relatos clínicos incluiu fatores adicionais que podem ter contribuído para o desenvolvimento da psicose, como privação de sono, uso de substâncias ou predisposições psiquiátricas prévias. Também existem evidências de que indivíduos com maior propensão à paranoia podem ser mais inclinados a atribuir intenção, consciência ou autoridade especial às respostas produzidas pela IA.

Diante desse cenário, a investigação do uso de ferramentas de IA pode se tornar um componente relevante da avaliação psiquiátrica. Como alguns modelos podem se tornar menos confiáveis em conversas muito prolongadas, o tempo de interação pode funcionar como um fator adicional de risco para o reforço de crenças equivocadas. Além disso, os registros dessas conversas oferecem uma oportunidade rara para o estudo detalhado da evolução de crenças delirantes, fornecendo material valioso para pesquisa clínica.

Uma das hipóteses discutidas por Corlett foi que as respostas confabulatórias dos LLMs possam funcionar como fontes externas de erros de previsão, reforçando interpretações equivocadas existentes. Paralelamente, o caráter validante e complacente de muitas respostas pode desestimular o teste da realidade e dificultar a revisão crítica das próprias crenças. Nesse contexto, a IA não necessariamente criaria delírios do nada, mas pode fortalecer crenças distorcidas previamente presentes.

Embora seja possível argumentar que esse fenômeno represente apenas uma nova expressão de processos psicopatológicos antigos, os LLMs diferem de tecnologias anteriores por sua capacidade de adaptação individualizada. Delírios historicamente incorporaram elementos culturais e tecnológicos de cada época, mas rádio, televisão e outras mídias tradicionais não respondiam diretamente às preocupações particulares de cada indivíduo.

Por fim, o autor sugeriu que a própria IA possa ser utilizada como ferramenta terapêutica no futuro.  Como as respostas dos modelos dependem do contexto e do histórico de interação, mostrar ao paciente que um mesmo sistema responde de forma diferente a usuários distintos poderia ajudar a questionar a suposta verdade objetiva e exclusiva de determinadas mensagens.

A principal conclusão foi que os LLMs parecem capazes de influenciar a formação e a manutenção de crenças falsas, especialmente quando produzem respostas complacentes e confabulatórias. Embora ainda não esteja claro se podem causar delírios diretamente, seu potencial para reforçar pensamentos distorcidos merece atenção clínica e científica.