A Organização Mundial da Saúde (OMS) delineia considerações para a regulamentação da inteligência artificial na área da saúde.

Com o aumento da disponibilidade de dados de saúde e o rápido progresso das técnicas analíticas - seja aprendizado de máquina, baseado em lógica ou estatística - as ferramentas de IA têm o potencial de transformar o setor de saúde. A OMS reconheceu o potencial da IA em melhorar os resultados de saúde, fortalecendo os ensaios clínicos; aprimorando o diagnóstico médico, o tratamento, o autocuidado e o atendimento centrado na pessoa; e complementando o conhecimento, as habilidades e as competências dos profissionais de saúde. Por exemplo, a IA pode ser benéfica em ambientes com falta de especialistas médicos, como na interpretação de exames de retina e imagens radiológicas, entre outros.

No entanto, as tecnologias de IA, incluindo os grandes modelos de linguagem, estão sendo implantadas rapidamente, às vezes sem um entendimento completo de como elas podem funcionar, o que poderia beneficiar ou prejudicar os usuários finais, incluindo profissionais de saúde e pacientes. Ao usar dados de saúde, os sistemas de IA podem ter acesso a informações pessoais sensíveis, exigindo robustos quadros legais e regulatórios para proteger a privacidade, segurança e integridade, que esta publicação visa ajudar a estabelecer e manter.

"A inteligência artificial promete muito para a saúde, mas também apresenta desafios sérios, incluindo a coleta antiética de dados, ameaças de cibersegurança e a amplificação de vieses ou desinformação", disse o Dr. Tedros Adhanom Ghebreyesus, Diretor-Geral da OMS. "Essa nova orientação apoiará os países na regulamentação eficaz da IA, aproveitando seu potencial, seja no tratamento do câncer ou na detecção da tuberculose, ao mesmo tempo em que minimiza os riscos."

Em resposta à crescente necessidade dos países de gerenciar de forma responsável o rápido avanço das tecnologias de IA na saúde, a publicação delineia seis áreas para a regulamentação da IA na saúde.

• Para promover a confiança, a publicação destacou a importância da transparência e da documentação, como documentar todo o ciclo de vida do produto e rastrear os processos de desenvolvimento.
• Para a gestão de riscos, questões como "uso pretendido", "aprendizado contínuo", intervenções humanas, treinamento de modelos e ameaças de cibersegurança devem ser abordadas de forma abrangente, com modelos o mais simples possível.
• A validação externa de dados e a clareza sobre o uso pretendido da IA ajudam a garantir a segurança e facilitar a regulamentação.
• O compromisso com a qualidade dos dados, como a avaliação rigorosa dos sistemas antes do lançamento, é vital para garantir que os sistemas não amplifiquem vieses e erros.
• Os desafios apresentados por regulamentações importantes e complexas, como o Regulamento Geral de Proteção de Dados (GDPR) na Europa e a Lei de Portabilidade e Responsabilidade do Seguro de Saúde (HIPAA) nos Estados Unidos da América, são abordados com ênfase na compreensão do escopo da jurisdição e nos requisitos de consentimento, em prol da privacidade e da proteção de dados.
• Fomentar a colaboração entre órgãos reguladores, pacientes, profissionais de saúde, representantes da indústria e parceiros do governo pode ajudar a garantir que produtos e serviços permaneçam em conformidade com a regulamentação ao longo de suas vidas úteis.

Os sistemas de IA são complexos e dependem não apenas do código com o qual são construídos, mas também dos dados com os quais são treinados, que vêm de configurações clínicas e interações de usuários, por exemplo. Uma regulamentação mais eficaz pode ajudar a gerenciar os riscos da amplificação de vieses nos dados de treinamento.

Por exemplo, pode ser difícil para os modelos de IA representar com precisão a diversidade das populações, levando a vieses, imprecisões ou até falhas. Para ajudar a mitigar esses riscos, as regulamentações podem ser usadas para garantir que os atributos, como gênero, raça e etnia, das pessoas apresentadas nos dados de treinamento sejam relatados e que os conjuntos de dados sejam intencionalmente representativos.

A nova publicação da OMS tem como objetivo esboçar princípios-chave que governos e autoridades reguladoras podem seguir para desenvolver novas orientações ou adaptar orientações existentes sobre a IA em níveis nacionais ou regionais.

Leia na íntegra em inglês clicando aqui.