Notícia

Pesquisa revela viés de gênero na triagem de ferramentas de Inteligência Artificial para doenças hepáticas

wayhomestudio via Freepik

Fonte

UCL | University College London

Data

sexta-feira, 15 julho 2022 06:15

Áreas

Ciência da Computação. Ciência de Dados. Hepatologia. Inteligência Artificial. Medicina. Saúde Pública.

Um novo estudo, realizado por pesquisadores da University College London (UCL), no Reino Unido, e publicado na revista científica BMJ Health & Care Informatics, com financiamento do UK Research and Inovation (UKRI), recriou quatro modelos de Inteligência Artificial (IA) documentados em pesquisas anteriores como tendo uma taxa de sucesso superior a 70% na identificação de doenças hepáticas a partir dos resultados de exames de sangue.

Depois de reconstruir os algoritmos e demonstrar que eles alcançaram os mesmos resultados de estudos anteriores, a equipe de pesquisa analisou como eles se comportavam quando aplicados a mulheres e homens e descobriram que foram perdidos 44% dos casos de doença hepática entre as mulheres, em comparação com 23% entre os homens.

Os pesquisadores descobriram que os dois algoritmos que foram considerados os melhores na triagem de doenças entre os pacientes em geral tiveram a maior diferença de gênero – ou seja, tiveram o pior desempenho para as mulheres em comparação com os homens.

Isabel Straw, autora principal do estudo e doutoranda no Instituto de Informática em Saúde da UCL, disse: “Os algoritmos de IA são cada vez mais usados ​​em hospitais para auxiliar os médicos no diagnóstico de pacientes. Nosso estudo mostra que, a menos que esses algoritmos sejam investigados quanto ao viés, eles podem ajudar apenas um subconjunto de pacientes, deixando outros grupos com piores cuidados. Precisamos ter muito cuidado para que a [aplicação da] IA na Medicina não agrave as desigualdades existentes na área da saúde. Quando ouvimos falar de um algoritmo com mais de 90% de precisão na identificação de doenças, precisamos perguntar: preciso para quem? A alta precisão geral pode ocultar um desempenho ruim para alguns grupos”.

Os modelos de IA investigados pelos pesquisadores foram treinados usando o Indian Liver Patient Dataset (ILPD), que é usado extensivamente para criar algoritmos que preveem doenças hepáticas.

Os pesquisadores observaram que as disparidades no desempenho dos modelos de IA para homens e mulheres provavelmente refletiam as desigualdades existentes no atendimento. Os marcadores bioquímicos de doença usados ​​pelos algoritmos, como níveis mais baixos de albumina, já são amplamente utilizados por clínicos e parecem ser um indicador mais eficaz de doença em homens.

Pesquisas anteriores mostraram que as mulheres são menos propensas a serem diagnosticadas com doença hepática e também mais propensas a ter doenças mais graves com piores resultados.

Para o artigo, os pesquisadores analisaram 30 estudos que descrevem algoritmos que rastreavam doenças hepáticas e, apesar das disparidades nos cuidados que provavelmente levariam ao viés na IA, descobriram que nenhum deles discutia as diferenças entre os sexos.

Os pesquisadores não conseguiram avaliar o desempenho dos modelos de IA para diferentes etnias, pois não tinham dados relevantes, mas disseram que há evidências de que os marcadores usados ​​para prever doenças hepáticas eram menos eficazes para grupos raciais marginalizados.

Acesse o artigo científico completo (em inglês).

Acesse a notícia completa na página da University College London (em inglês).

Fonte: Mark Greaves, UCL. Imagem: wayhomestudio via Freepik.

Em suas publicações, o Portal Tech4Health da Rede T4H tem o único objetivo de divulgação científica, tecnológica ou de informações comerciais para disseminar conhecimento. Nenhuma publicação do Portal Tech4Health tem o objetivo de aconselhamento, diagnóstico, tratamento médico ou de substituição de qualquer profissional da área da saúde. Consulte sempre um profissional de saúde qualificado para a devida orientação, medicação ou tratamento, que seja compatível com suas necessidades específicas.