Risco da IA na orientação nutricional

Nos últimos tempos, o uso de chatbots baseados em IA, como o ChatGPT, para o gerenciamento e educação de doenças tem ganhado grande destaque. Um estudo recente, publicado no European Journal of Clinical Nutrition, revelou que essas ferramentas, amplamente promovidas, podem fornecer informações que, em alguns casos, agravariam as condições dos pacientes, gerando graves consequências para a saúde. Essas descobertas soam como um alerta para médicos e profissionais de saúde que dependem exclusivamente da IA para oferecer orientações médicas e de saúde a seus pacientes.

O estudo conduzido por Naja e colaboradores (2024) focou em três doenças nutricionais. Seu objetivo foi avaliar a precisão, qualidade e clareza das informações fornecidas pelo ChatGPT sobre tratamentos nutricionais para diabetes tipo 2 (DM2), síndrome metabólica (SM) e seus componentes, conforme as diretrizes da Academia de Nutrição e Dietética.

Três domínios foram abordados no estudo: (1) Gerenciamento dietético, (2) Processo de Cuidado Nutricional (NCP) e (3) Planejamento de cardápio com 1500 kcal. Um total de 63 prompts foram utilizados, e dois nutricionistas experientes avaliaram as respostas do ChatGPT, comparando-as às diretrizes da Academia de Nutrição e Dietética.

A avaliação indicou que os nutricionistas forneceram informações consistentes para a maioria das condições analisadas, mas identificaram lacunas importantes nas respostas do ChatGPT. Entre os problemas observados estavam falhas em recomendações de perda de peso, déficit calórico, avaliação antropométrica e a inclusão de nutrientes cruciais. Além disso, as sugestões sobre atividade física também eram insuficientes, evidenciando as limitações do chatbot em oferecer uma abordagem completa de estilo de vida.

No que tange ao Processo de Cuidado Nutricional, o ChatGPT apresentou exemplos incompletos de diagnósticos e foi insuficiente nas fases de monitoramento e avaliação. Nos menus de 1500 kcal propostos, as quantidades de carboidratos, gordura, vitamina D e cálcio estavam em desacordo com as recomendações nutricionais. Em termos de clareza, entretanto, o conteúdo foi avaliado como bom ou excelente pelos nutricionistas.

Apesar de reagir de forma "semelhante à humana" às solicitações dos usuários, o ChatGPT, e possivelmente outros chatbots de IA, não podem substituir o julgamento clínico e a experiência crítica dos nutricionistas. Embora essa tecnologia possa ser uma ferramenta valiosa, é essencial que os profissionais de saúde estejam cientes de suas limitações e usem-na de forma complementar, sempre com cautela ao aplicar suas recomendações na prática clínica. É necessário aumentar a conscientização sobre os riscos de confiar exclusivamente nessas ferramentas em situações de saúde.

Referência: Naja, F., Taktouk, M., Matbouli, D. et al. Artificial intelligence chatbots for the nutrition management of diabetes and the metabolic syndrome.  Eur J Clin Nutr (2024). https://doi.org/10.1038/s41430-024-01476-y