Solano Todeschini
CRM-PR 44912
MD | Founder Voa Health
A inteligência artificial na medicina pode apresentar vieses quando é treinada com dados incompletos, pouco representativos ou que refletem desigualdades existentes no sistema de saúde. Essas distorções não costumam ser intencionais. Mesmo assim, elas podem comprometer a precisão dos algoritmos para determinados grupos de pacientes.
Um modelo pode apresentar alta acurácia agregada e falhar de forma consistente para determinadas faixas etárias, fototipos de pele ou populações atendidas fora dos grandes centros de pesquisa. Essas diferenças nem sempre aparecem nas métricas globais de desempenho. Elas costumam aparecer apenas quando o comportamento dos algoritmos é analisado por subgrupos, uma prática que ainda não faz parte de todos os processos de validação.
A inteligência artificial vem ampliando sua presença na prática clínica, apoiando desde a interpretação de exames até a documentação médica e a estratificação de risco. Para que essas ferramentas sejam usadas com segurança, é preciso entender como os modelos foram treinados e para quais populações funcionam bem.
É nesse contexto que ganha importância o debate sobre o viés algorítmico, um dos principais desafios para a adoção segura da inteligência artificial na medicina.
As cinco principais fontes de viés na IA aplicada à saúde são:
Dados pouco representativos de determinados grupos populacionais.
Dados que reproduzem desigualdades históricas de acesso à saúde.
Variável-alvo mal escolhida no treinamento do modelo.
Baixa qualidade ou interoperabilidade dos dados entre sistemas.
Uso do modelo fora do contexto em que foi validado.
Quais são as principais fontes de viés na inteligência artificial na medicina?
Nenhum algoritmo nasce enviesado. Em geral, os problemas aparecem durante o desenvolvimento, quando o modelo aprende a partir de bases de dados incompletas, variáveis mal definidas ou contextos muito diferentes daqueles em que será utilizado. Estas são as cinco origens mais comuns do viés na IA aplicada à saúde:
Dados pouco representativos
Um algoritmo aprende a partir dos exemplos que recebe. Se a base de treinamento reúne principalmente pacientes atendidos em hospitais universitários ou grandes centros urbanos, seu desempenho pode cair quando encontra populações pouco representadas, como crianças, idosos, pessoas negras, indígenas ou pacientes de regiões remotas.
Esse problema já foi descrito em diferentes especialidades. Em dermatologia, por exemplo, um estudo publicado na Science Advances mostrou que algoritmos apresentaram desempenho inferior quando avaliados em imagens de pacientes com fototipos mais escuros, reforçando a importância de bases de treinamento mais diversas.
Dados que reproduzem desigualdades históricas
Os algoritmos também aprendem com a forma como o sistema de saúde funciona. Se determinados grupos tiveram menos acesso a consultas, exames ou especialistas, essas diferenças passam a fazer parte da base de treinamento.
O risco é que a IA interprete desigualdades de acesso como se fossem diferenças clínicas reais, perpetuando um problema que existia antes mesmo do algoritmo.
Variável-alvo mal escolhida
Nem sempre o erro está nos dados. Às vezes, está naquilo que o modelo foi treinado para prever.
O exemplo clássico foi publicado na Science em 2019, no artigo Dissecting racial bias in an algorithm used to manage the health of populations. Um algoritmo utilizava o gasto com assistência médica como indicador indireto da necessidade de cuidados complexos. Como custos também refletem desigualdades de acesso aos serviços de saúde, pacientes negros acabavam sendo classificados como menos prioritários do que realmente eram.
Desde sua publicação, o estudo tornou-se uma das principais referências sobre viés algorítmico na saúde ao mostrar que a escolha inadequada de uma variável pode introduzir vieses importantes mesmo quando o algoritmo não utiliza raça como informação de entrada.
Qualidade e interoperabilidade dos dados
Prontuários incompletos, diferenças entre equipamentos, protocolos distintos e sistemas que não compartilham informações também afetam o desempenho dos modelos.
Um algoritmo treinado com dados altamente padronizados pode perder precisão quando passa a analisar registros produzidos em outros hospitais ou redes assistenciais. Nesses casos, a limitação não está necessariamente na IA, mas na qualidade e na consistência das informações disponíveis.
Uso fora do contexto de treinamento
Um modelo validado em um hospital universitário de alta complexidade não necessariamente apresentará o mesmo desempenho em um hospital regional ou na atenção primária.
Mudanças no perfil epidemiológico, na disponibilidade de exames, nos protocolos clínicos e na infraestrutura podem reduzir sua precisão. Por isso, especialistas recomendam que ferramentas de inteligência artificial sejam validadas no ambiente em que serão utilizadas e monitoradas continuamente após sua implantação.
O viés não é apenas um problema técnico, é institucional
Tratar o viés algorítmico como um defeito que será corrigido na próxima atualização do software é simplificar um problema muito mais amplo. A escolha das bases de treinamento, das variáveis que serão previstas, das métricas de desempenho e dos grupos incluídos na validação são decisões institucionais que influenciam diretamente a qualidade dos modelos.
Por isso, organizações como a Organização Mundial da Saúde (OMS) defendem que a avaliação da equidade faça parte de todo o ciclo de vida dos sistemas de inteligência artificial em saúde. No Brasil, essa discussão também envolve a aplicação da Lei Geral de Proteção de Dados (LGPD) e as orientações do Conselho Federal de Medicina (CFM), que mantêm a responsabilidade pela decisão clínica com o médico.
Na prática, isso significa exigir mais do que bons índices de acurácia. Hospitais e profissionais precisam conhecer as limitações dos modelos, verificar seu desempenho em diferentes grupos de pacientes e acompanhar seus resultados após a implantação. Um algoritmo pode funcionar muito bem na média e ainda apresentar falhas importantes em populações específicas.
O objetivo não é eliminar completamente os vieses, mas identificá-los, medi-los e reduzi-los antes que afetem o cuidado ao paciente. Essa é uma das condições para que a inteligência artificial seja incorporada de forma segura, ética e baseada em evidências à prática médica.
Continue a leitura
Entender como surgem os vieses é apenas o primeiro passo para usar a inteligência artificial na medicina de forma crítica. Nos próximos artigos, você verá como esses problemas já afetaram decisões clínicas e conhecerá um checklist prático para avaliar ferramentas de IA antes da adoção.
Perguntas frequentes (FAQ)
O que é viés algorítmico na saúde?
É a tendência de um sistema de inteligência artificial apresentar desempenho diferente entre grupos de pacientes. Isso geralmente acontece porque o modelo foi treinado com dados pouco representativos, que refletem desigualdades históricas ou utilizam variáveis que não correspondem adequadamente à necessidade clínica.
É possível eliminar totalmente o viés na inteligência artificial na medicina?
Não. Todo conjunto de dados possui limitações. O objetivo é reduzir esses vieses por meio de bases mais representativas, validação em diferentes populações, auditorias periódicas e monitoramento contínuo do desempenho após a implantação.
Como avaliar se uma ferramenta de IA pode apresentar vieses?
Antes da adoção, é importante verificar se o modelo foi validado em populações semelhantes à atendida pela instituição e solicitar resultados segmentados por idade, sexo, raça/etnia e outros subgrupos clínicos relevantes. Métricas gerais de desempenho, isoladamente, podem ocultar diferenças importantes entre populações.
O médico continua responsável pelas decisões tomadas com apoio da IA?
Sim. A inteligência artificial é uma ferramenta de apoio à decisão clínica. A interpretação dos resultados, a definição da conduta e a responsabilidade pelo atendimento permanecem com o profissional de saúde.
