O cérebro sob influência da IA: neurociência revela impacto dos LLMs na cognição

Modelos de linguagem grandes (LLMs) estão transformando rapidamente a forma como a sociedade trabalha e aprende, principalmente na educação médica. Essas tecnologias oferecem capacidades revolucionárias na personalização de experiências de aprendizado, fornecendo feedback imediato aos alunos e democratizando recursos educacionais em todo o mundo. No domínio da educação, os LLMs podem promover o aprendizado independente, aumentar o envolvimento dos alunos e apoiar uma variedade de estilos de aprendizado por meio da entrega de conteúdo adaptativo. No entanto, existem crescentes preocupações sobre as consequências cognitivas de seu uso extensivo.

Um novo artigo do Massachusetts Institute of Technology – Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task– examinou os efeitos cognitivos do uso de assistentes de IA LLM como o ChatGPT para tarefas de redação. O trabalho revelou evidências preocupantes de "dívida cognitiva" – o acúmulo de custos cognitivos de longo prazo devido à dependência excessiva de LLMs.

O estudo dividiu 54 participantes em três grupos ao longo de quatro sessões, abrangendo quatro meses. Dentre os grupos, o “LLM” utilizou o ChatGPT para a redação de ensaios; “Motor de Busca” buscou tradicionalmente na web e o "Cérebro Apenas" escreveu os ensaios sem nenhuma ferramenta. Os pesquisadores utilizaram eletroencefalograma (EEG) para monitorar a atividade cerebral, realizaram análise de processamento de linguagem natural dos ensaios e entrevistaram os participantes após cada sessão.

Com relação aos padrões de conectividade neural, foi constatado que a conectividade cerebral diminuiu sistematicamente com os níveis de suporte externo. O grupo "Cérebro Apenas" apresentou as redes neurais mais fortes e difundidas, enquanto o LLM exibiu uma redução de até 55% na conectividade em comparação com os participantes do "Cérebro Apenas". Os autores supõem que isso sugere que a assistência da IA fundamentalmente reestrutura nossa arquitetura cognitiva.

Os usuários de LLM demonstraram graves déficits de memória e apropriação dos ensaios, com 83% sendo incapazes de citar trechos dos ensaios que acabavam de escrever, e relatando uma sensação fragmentada de autoria de seus ensaios.

Os ensaios do grupo LLM também foram estatisticamente homogêneos dentro dos tópicos, mostrando significativamente menos variação do que outros grupos, enquanto os usuários de LLM também usaram 2 a 3 vezes mais entidades nomeadas (como fatos específicos, datas e nomes), mas demonstraram menos pensamento original.

Quando os usuários de LLM tentaram escrever sem assistência de IA na quarta sessão, mostraram uma conectividade neural mais fraca do que aqueles que nunca usaram a tecnologia, enquanto 78% foram incapazes de citar qualquer trecho de seus próprios ensaios. Por outro lado, quando os usuários "Apenas Cérebro" utilizaram ferramentas de IA, mostraram maior atividade neural e usaram estratégias de prompt mais sofisticadas.

Os pesquisadores cunharam o termo "dívida cognitiva" para descrever como os LLMs poupam o usuário de esforço mental a curto prazo, mas geram custos a longo prazo, incluindo diminuição do pensamento crítico, redução da criatividade e do pensamento independente, aumento da vulnerabilidade a vieses e manipulação, e processamento superficial de informações.

O estudo sugeriu que, embora os LLMs ofereçam benefícios imediatos de desempenho, a dependência precoce dessas ferramentas pode prejudicar o desenvolvimento de habilidades cognitivas profundas que são essenciais para o aprendizado, formação de memória e independência intelectual. Os pesquisadores recomendaram adiar a integração dessas tecnologias até que os alunos tenham se envolvido em esforço cognitivo autodirigido suficiente para evitar o acúmulo de dívida cognitiva.

Embora os resultados não sejam necessariamente surpreendentes, este artigo ofereceu a primeira evidência neurofisiológica de que a assistência de LLMs altera fundamentalmente a forma como nossos cérebros processam e retêm informações. Ele levanta questões importantes sobre as consequências cognitivas a longo prazo da adoção generalizada de IA em ambientes educacionais. Embora não tenha se concentrado especificamente na educação médica, é possível que o problema da dívida cognitiva seja transferível para a dependência excessiva de LLMs em contextos de aprendizado médico de graduação e pós-graduação. Portanto, pode ser prudente exercer as mesmas recomendações de precaução oferecidas pelos pesquisadores na educação médica.