Quando médicos e IA trabalham juntos, quem é responsável?

Atualmente, a maioria das ferramentas de IA atua como suporte ao profissional de saúde e dependem de validação humana antes de qualquer intervenção. No entanto, a tendência é o surgimento de soluções cada vez mais autônomas, capazes de diagnosticar doenças, sugerir tratamentos e participar diretamente das decisões clínicas. 

Como muitos desses sistemas funcionam como verdadeiras “caixas-pretas”, seus processos de decisão nem sempre são compreendidos pelos usuários, dificultando a identificação de falhas e a atribuição de responsabilidades. Como consequência, pacientes podem enfrentar dificuldades para obter reparação de danos, enquanto instituições podem hesitar em adotar essas tecnologias por receio de implicações legais. 

Para enfrentar esse desafio, Lam e colaboradores (2026) propuseram um sistema de classificação da IA médica baseado em três propriedades: autonomia, relacionada à capacidade do sistema de raciocinar e tomar decisões; automação, referente à execução de tarefas sem intervenção humana; e escopo operacional, definido pelos limites dentro dos quais o sistema pode operar. 

A combinação desses critérios deu origem a sete níveis de IA médica, que podem servir como base para a avaliação dos riscos associados a essas tecnologias, abrangendo desde sistemas meramente informativos até ferramentas totalmente autônomas e capazes de aprendizado contínuo. 

Nível 0: Informativo

Sistemas sem autonomia, com automação variável e escopo operacional restrito, utilizados para armazenar, organizar ou exibir dados conforme regras definidas por humanos. Exemplos incluem prontuários eletrônicos e monitoramento de sinais vitais por dispositivos vestíveis. Como seu funcionamento é transparente e verificável, a avaliação de segurança e responsabilidade segue os modelos tradicionais. 

Nível 1: Assistência

Tecnologias com baixa autonomia, automação de baixa a moderada e escopo operacional restrito, utilizados para tarefas específicas sob supervisão profissional, como identificar alterações em monitores cardíacos ou destacar achados suspeitos em exames de imagem.  

 Embora seu raciocínio nem sempre seja totalmente transparente, seus resultados podem ser verificados clinicamente. Essas ferramentas funcionam como auxiliares diagnósticos, cabendo às instituições garantir o treinamento adequado dos profissionais e a correta interpretação dos alertas gerados. 

Nível 2: Suporte à decisão

Ferramentas com baixa autonomia, automação de baixa a moderada e escopo operacional moderado. São capazes de integrar múltiplas fontes de informação para sugerir diagnósticos, tratamentos ou estratificação de risco. Apesar do suporte oferecido, a decisão final permanece sob responsabilidade do profissional. Um dos principais riscos é a confiança excessiva nas recomendações da IA. 

Nível 3: Automação supervisionada

Sistemas com níveis moderados de autonomia e automação, nos quais a IA toma decisões dentro de um domínio específico, enquanto o profissional mantém supervisão geral. Um exemplo são sistemas automatizados de administração de insulina que ajustam doses conforme leituras contínuas de glicose. 

Nesses casos, a responsabilidade pode ser compartilhada entre médicos, instituições e fabricantes, tornando mais complexa a avaliação legal de danos. 

Nível 4: Supervisão humana ativada pela IA

Ferramentas com altos níveis de autonomia e automação, capazes de gerenciar etapas inteiras do tratamento, especialmente em ambientes complexos como a terapia intensiva. Os profissionais atuam principalmente como uma rede de segurança. Embora ainda não estejam amplamente presentes na prática clínica, esses sistemas representam desafios para a definição de responsabilidades em casos de eventos adversos. 

Nível 5: Clínico autônomo

Tecnologias com altos níveis de autonomia e automação, capazes de realizar diversas atividades clínicas, incluindo coleta de informações, interpretação de exames, prescrição e ajuste de tratamentos, com intervenção humana apenas quando necessário. 

Embora ainda não existam ferramentas com esse grau de capacidade, esse nível levanta importantes desafios regulatórios e jurídicos, tendo em vista que a ausência de supervisão humana contínua torna mais complexa a definição de responsabilidade diante de eventos adversos. 

Nível 6: IA médica autodidata

Representa um cenário futuro e altamente avançado, no qual a IA apresenta autonomia e automação extremamente elevadas, sendo capaz de aprender continuamente, desenvolver novos conhecimentos, identificar subtipos de doenças e criar estratégias terapêuticas inéditas sem supervisão humana direta. 

Caso essas ferramentas venham a existir, a definição de responsabilidade por eventuais danos se tornaria ainda mais complexa, podendo envolver desenvolvedores, instituições de saúde e outros agentes do sistema. 

Quais são os próximos passos?

Reguladores, instituições de saúde e legisladores precisam agir antes que sistemas altamente autônomos se tornem parte da rotina clínica. Entre as medidas propostas por Lam e colaboradores (2026) estão a classificação das ferramentas de IA de acordo com seu grau de autonomia, automação e escopo operacional, a definição de níveis de supervisão proporcionais ao risco, o monitoramento contínuo dessas tecnologias e a definição clara de como as decisões geradas pela IA devem ser revisadas. 

Também são necessárias políticas de governança, auditoria e treinamento das equipes, além de mecanismos legais para avaliar falhas em sistemas opacos. Os autores defenderam ainda que desenvolvedores, instituições e demais envolvidos estejam adequadamente segurados contra danos relacionados à IA, com integração dessa cobertura às apólices públicas e privadas existentes. 

Conclusão

A IA tem potencial para transformar o cuidado em saúde, mas seu avanço exige definições claras sobre supervisão e responsabilidade. À medida que sistemas mais autônomos são incorporados à prática clínica, torna-se fundamental definir mecanismos claros para sua utilização segura, ética e eficaz, maximizando os benefícios para pacientes e profissionais de saúde.