• Um novo estudo mostra que sistemas de inteligência artificial usados para diagnosticar câncer a partir de lâminas de patologia não apresentam desempenho igual para todos os pacientes, com precisão variando entre diferentes grupos demográficos.
• Pesquisadores identificaram três razões principais por trás desse viés e criaram uma nova abordagem que reduziu significativamente essas diferenças.
• Os resultados enfatizam por que a IA médica deve ser rotineiramente avaliada quanto a viés para ajudar a garantir um tratamento de câncer justo e confiável para todos.

Patologia e as Fundamentos do Diagnóstico do Câncer

Durante décadas, a patologia tem sido essencial para como os médicos diagnosticam e tratam o câncer. Um patologista estuda uma fatia extremamente fina de tecido humano sob um microscópio, buscando sinais visuais que revelam a presença de câncer e, se presente, qual tipo e estágio ele atingiu.

Para um especialista treinado, examinar uma amostra de tecido rosa, com células roxas, é como corrigir uma prova sem nome — a lâmina contém informações vitais sobre a doença, mas não oferece pistas sobre quem é o paciente.

Quando a IA Vê Mais do que o Esperado

Essa suposição não se aplica totalmente aos sistemas de inteligência artificial que estão entrando nos laboratórios de patologia. Um novo estudo liderado por pesquisadores da Harvard Medical School revela que modelos de IA em patologia podem inferir detalhes demográficos diretamente a partir de lâminas de tecido. Essa habilidade inesperada pode introduzir viés no diagnóstico de câncer entre diferentes grupos de pacientes.

Após avaliar vários modelos de IA amplamente utilizados para identificar câncer, os pesquisadores descobriram que esses sistemas não apresentavam desempenho igual para todos os pacientes. A precisão diagnóstica variou com base na raça auto-relatada, gênero e idade dos pacientes. A equipe também descobriu várias razões pelas quais essas disparidades ocorrem.

Para abordar o problema, os pesquisadores desenvolveram uma estrutura chamada FAIR-Path, que reduziu significativamente o viés nos modelos testados.

“Ler demografia a partir de uma lâmina de patologia é considerado uma ‘missão impossível’ para um patologista humano, então o viés na IA de patologia nos surpreendeu,” disse o autor sênior Kun-Hsing Yu, professor associado de informática biomédica no Blavatnik Institute da HMS e professor assistente de patologia no Brigham and Women’s Hospital.

Yu enfatizou que reconhecer e corrigir o viés na IA médica é crítico, pois pode influenciar diretamente a precisão diagnóstica e os resultados dos pacientes. O sucesso do FAIR-Path sugere que melhorar a equidade na IA de patologia do câncer, e possivelmente em outras ferramentas de IA médica, pode não exigir grandes mudanças nos sistemas existentes.

O trabalho, que foi apoiado em parte por financiamento federal, foi descrito em 16 de dezembro na Cell Reports Medicine.

Colocando a IA do Câncer à Prova

Yu e seus colegas examinaram o viés em quatro modelos de IA de patologia comumente usados que estão sendo desenvolvidos para o diagnóstico do câncer. Esses sistemas de aprendizagem profunda foram treinados em grandes coleções de lâminas de patologia rotuladas, permitindo que eles aprendessem padrões biológicos e aplicassem esse conhecimento a novas amostras.

A equipe avaliou os modelos usando um grande conjunto de dados multi-institucional que incluía lâminas de patologia de 20 tipos diferentes de câncer.

Em todos os quatro modelos, lacunas de desempenho surgiram consistentemente. Os sistemas de IA eram menos precisos para certos grupos demográficos definidos por raça, gênero e idade. Por exemplo, os modelos tiveram dificuldade em distinguir subtipos de câncer de pulmão em pacientes afro-americanos e em pacientes do sexo masculino. Eles também apresentaram precisão reduzida ao classificar subtipos de câncer de mama em pacientes mais jovens. Além disso, os modelos tiveram dificuldade em detectar câncer de mama, renal, da tireoide e estômago em alguns grupos demográficos. No geral, essas disparidades apareceram em cerca de 29% das tarefas diagnósticas analisadas.

De acordo com Yu, esses erros surgem porque os sistemas de IA extraem informações demográficas das imagens dos tecidos — e, em seguida, se baseiam em padrões vinculados a essas demografias ao tomar decisões diagnósticas.

Os achados foram inesperados. “Porque esperaríamos que a avaliação patológica fosse objetiva,” disse Yu. “Ao avaliar imagens, não precisamos necessariamente conhecer a demografia de um paciente para fazer um diagnóstico.”

Isso levou os pesquisadores a fazer uma pergunta chave: Por que a IA de patologia não estava atendendo ao mesmo padrão de objetividade?

Por que o Viés Aparece na IA de Patologia

A equipe identificou três principais contribuintes para o viés.

Primeiro, os dados de treinamento muitas vezes são desiguais. Amostras de tecido são mais fáceis de obter de alguns grupos demográficos do que de outros, resultando em conjuntos de dados desequilibrados. Isso torna mais difícil para os modelos de IA diagnosticar com precisão cânceres em grupos que estão sub-representados, incluindo algumas populações definidas por raça, idade ou gênero.

No entanto, Yu observou que “o problema acabou sendo muito mais profundo do que isso.” Em vários casos, os modelos apresentaram desempenho pior para certos grupos demográficos mesmo quando os tamanhos das amostras eram semelhantes.

Uma análise mais aprofundada apontou diferenças na incidência da doença. Alguns cânceres ocorrem mais frequentemente em populações específicas, permitindo que os modelos de IA se tornem especialmente precisos para esses grupos. Como resultado, os mesmos modelos podem ter dificuldades em diagnosticar cânceres em populações onde essas doenças são menos comuns.

Os pesquisadores também descobriram que os modelos de IA podem detectar sutis diferenças moleculares entre grupos demográficos. Por exemplo, os sistemas podem identificar mutações em genes de câncer e usá-las como atalhos para classificar o tipo de câncer — o que pode reduzir a precisão em populações onde essas mutações são menos prevalentes.

“Descobrimos que, porque a IA é tão poderosa, ela pode diferenciar muitos sinais biológicos obscuros que não podem ser detectados pela avaliação humana padrão,” disse Yu.

Com o tempo, isso pode fazer com que os modelos de IA se concentrem em sinais vinculados mais de perto às demografias do que à própria doença, enfraquecendo o desempenho diagnóstico entre grupos de pacientes diversificados.

Em conjunto, Yu disse que essas descobertas mostram que o viés na IA de patologia é influenciado não apenas pela qualidade e equilíbrio dos dados de treinamento, mas também pela maneira como os modelos são treinados para interpretar o que veem.

Uma Nova Abordagem para Reduzir o Viés

Após identificar as fontes de viés, os pesquisadores se propuseram a corrigi-las.

Eles desenvolveram o FAIR-Path, uma estrutura baseada em um método de aprendizagem de máquina existente conhecido como aprendizagem contrastiva. Essa abordagem modifica o treinamento da IA para que os modelos se concentrem mais fortemente em distinções críticas, como diferenças entre tipos de câncer, enquanto reduzem a atenção a diferenças menos relevantes, incluindo características demográficas.

Quando o FAIR-Path foi aplicado aos modelos testados, as disparidades diagnósticas caíram em cerca de 88 por cento.

“Mostramos que, ao fazer esse pequeno ajuste, os modelos podem aprender características robustas que os tornam mais generalizáveis e mais justos entre diferentes populações,” disse Yu.

O resultado é encorajador, acrescentou, pois sugere que reduções significativas no viés são possíveis mesmo sem conjuntos de dados de treinamento perfeitamente equilibrados ou totalmente representativos.

Olhando para o futuro, Yu e sua equipe estão trabalhando com instituições em todo o mundo para estudar o viés da IA de patologia em regiões com diferentes demografias, práticas clínicas e configurações laboratoriais. Eles também estão explorando como o FAIR-Path poderia ser adaptado para situações com dados limitados. Outra área de interesse é entender como o viés gerado pela IA contribui para disparidades mais amplas na saúde e nos resultados dos pacientes.

Em última análise, Yu afirmou que o objetivo é desenvolver sistemas de IA de patologia que apoiem especialistas humanos, fornecendo diagnósticos rápidos, precisos e justos para todos os pacientes.

“Acredito que há esperança de que, se estivermos mais cientes e cuidadosos sobre como projetamos sistemas de IA, podemos construir modelos que funcionem bem em todas as populações,” disse ele.

Autoria, financiamento, divulgações

Os autores adicionais do estudo incluem Shih-Yen Lin, Pei-Chen Tsai, Fang-Yi Su, Chun-Yen Chen, Fuchen Li, Junhan Zhao, Yuk Yeung Ho, Tsung-Lu Michael Lee, Elizabeth Healey, Po-Jen Lin, Ting-Wan Kao, Dmytro Vremenko, Thomas Roetzer-Pejrimovsky, Lynette Sholl, Deborah Dillon, Nancy U. Lin, David Meredith, Keith L. Ligon, Ying-Chun Lo, Nipon Chaisuriya, David J. Cook, Adelheid Woehrer, Jeffrey Meyerhardt, Shuji Ogino, MacLean P. Nasrallah, Jeffrey A. Golden, Sabina Signoretti e Jung-Hsien Chiang.

O financiamento foi fornecido pelo National Institute of General Medical Sciences e pelo National Heart, Lung, and Blood Institute do National Institutes of Health (subvenções R35GM142879, R01HL174679), pelo Departamento de Defesa (Peer Reviewed Cancer Research Program Career Development Award HT9425-231-0523), pela American Cancer Society (Research Scholar Grant RSG-24-1253761-01-ESED), por um Google Research Scholar Award, por um Harvard Medical School Dean’s Innovation Award, pelo National Science and Technology Council de Taiwan (subvenções NSTC 113-2917-I-006-009, 112-2634-F-006-003, 113-2321-B-006-023, 114-2917-I-006-016) e por uma bolsa de estudante de doutorado da Xin Miao Education Foundation.

Ligon foi consultor da Travera, Bristol Myers Squibb, Servier, IntegraGen, L.E.K. Consulting e Blaze Bioscience; recebeu ações da Travera; e tem financiamento de pesquisa da Bristol Myers Squibb e Lilly. Vremenko é cofundador e acionista da Vectorly.

Os autores prepararam o manuscrito inicial e usaram o ChatGPT para editar seções selecionadas para melhorar a legibilidade. Após usar esta ferramenta, os autores revisaram e editaram o conteúdo conforme necessário e assumem total responsabilidade pelo conteúdo do artigo publicado.