Notícia

Meditron, novo modelo de Inteligência Artificial de código aberto adaptado à área médica, tem foco em orientar a tomada de decisões clínicas

Shutterstock

Fonte

EPFL | Escola Politécnica Federal de Lausanne

Data

sábado, 2 dezembro 2023 17:55

Áreas

Bioética. Bioinformática. Ciência da Computação. Ciência de Dados. Gestão da Saúde. Informática Médica. Inteligência Artificial. Medicina. Saúde.

Grandes modelos de linguagem, ou Large Language Models (LLMs), são algoritmos de aprendizagem profunda treinados com grandes quantidades de texto para aprender bilhões de relações matemáticas entre palavras (os ‘parâmetros’). O nome está se tornando familiar como base algorítmica para o ChatGPT da OpenAI ou o Bard do Google. Atualmente, os maiores modelos contêm centenas de bilhões de parâmetros, cujo treinamento também custa bilhões de dólares.

Embora modelos generalistas em grande escala, como o ChatGPT, possam ajudar os usuários em uma variedade de tarefas, focar em um domínio específico de conhecimento pode permitir que os modelos sejam menores e mais acessíveis. Por exemplo, LLMs cuidadosamente formados em conhecimentos médicos de alta qualidade podem potencialmente democratizar o acesso a informações baseadas em evidências para ajudar a orientar a tomada de decisões clínicas.

Muitos esforços já foram feitos para aproveitar e melhorar o conhecimento médico e as capacidades de ‘raciocínio’ dos LLMs mas, até o momento, a Inteligência Artificial (IA) resultante é de código fechado (por exemplo, MedPaLM e GPT-4) ou limitada em escala, em cerca de 13 bilhões de parâmetros, que restringe seu acesso ou capacidade.

Procurando melhorar esse acesso e a representação da IA na área médica, pesquisadores da Escola de Ciências da Computação e da Comunicação da Escola Politécnica Federal de Lausanne (EPFL), na Suíça, desenvolveram o Meditron 7B e 70B, um par de LLMs de código aberto com 7 bilhões e 70 bilhões de parâmetros respectivamente, adaptados ao domínio médico e descritos em artigo disponível em pré-impressão.

Com base no modelo Llama-2 de acesso aberto lançado pela Meta, com contribuições contínuas de médicos e biólogos, o Meditron foi treinado em fontes de dados médicos cuidadosamente selecionadas e de alta qualidade. Isso incluiu literatura médica revisada por pares de repositórios de acesso aberto como o PubMed e um conjunto exclusivo de diversas diretrizes de prática clínica, abrangendo vários países, regiões, hospitais e organizações internacionais.

“Depois de desenvolver o Meditron, realizamos sua avaliação com quatro principais benchmarks médicos, mostrando que o seu desempenho excede todos os outros modelos de código aberto disponíveis, bem como os modelos fechados GPT-3.5 e Med-PaLM. O Meditron-70B está até 5% do GPT-4 e 10% do Med-PaLM-2, os dois modelos de melhor desempenho, mas fechados, atualmente adaptados ao conhecimento médico”, disse Zeming Chen, autor principal do estudo e doutorando no Laboratório de Processamento de Linguagem Natural (PNL) do Dr. Antoine Bosselut, professor  da EPFL e pesquisador principal do projeto.

Em um mundo onde muitas pessoas suspeitam, ou mesmo temem, o rápido avanço da IA, o professor Dr. Martin Jaggi, chefe do Laboratório de Aprendizado e Otimização de Máquina (MLO), enfatiza a importância do Meditron da EPFL ser de código aberto, incluindo o código para curadoria do corpus de pré-treinamento médico e pesos do modelo.

“Há transparência na forma como o Meditron foi treinado e quais dados foram utilizados. Queremos que os pesquisadores testem nosso modelo e o tornem mais confiável e robusto com suas melhorias, aproveitando a segurança da ferramenta no longo e necessário processo de validação no mundo real. Nada disso está disponível nos modelos fechados desenvolvidos pelas big techs”, destacou o Dr. Martin Jaggi.

A professora Dra. Mary-Anne Hartley, médica e chefe do Laboratório de Tecnologias Inteligentes de Saúde Global, hospedado conjuntamente no MLO e na Escola de Medicina da Universidade Yale, nos Estados Unidos, está liderando os aspectos médicos do estudo: “Projetamos o Meditron desde o início pensando na segurança. O que é único é que codifica o conhecimento médico a partir de fontes transparentes de evidências de alta qualidade. Agora vem o importante trabalho de garantir que o modelo seja capaz de entregar essas informações de forma adequada e segura.”

“Desenvolvemos o MEDITRON porque o acesso ao conhecimento médico deveria ser um direito universal. Esperamos que seja um ponto de partida útil para pesquisadores que procuram adaptar e validar esta tecnologia com segurança na sua prática”, concluiu o Dr. Antoine Bosselut.

Acesse a publicação em formato de pré-impressão na plataforma arXiv.

Acesse a notícia completa na página da Escola Politécnica Federal de Lausanne (em inglês).

Fonte: Tanya Petersen, EPFL. Imagem: Shutterstock.

Em suas publicações, o Portal Tech4Health da Rede T4H tem o único objetivo de divulgação científica, tecnológica ou de informações comerciais para disseminar conhecimento. Nenhuma publicação do Portal Tech4Health tem o objetivo de aconselhamento, diagnóstico, tratamento médico ou de substituição de qualquer profissional da área da saúde. Consulte sempre um profissional de saúde qualificado para a devida orientação, medicação ou tratamento, que seja compatível com suas necessidades específicas.