Work

Interpretable Machine Learning and its Application to Medical Decision Support Systems

Year: 2025
Type: dissertation
Abstract: Os algoritmos de inteligência artificial permitiram aos computadores aprender diretamente a partir de dados para resolver um problema específico.Com o advento da aprendizagem profunda, o desempenho preditivo destes algoritmos aumentou, especialmente na área de imagem médica.Apesar de atingirem um desempenho preditivo que desafia o ser humano em várias tarefas, estes métodos ainda sofrem de um comportamento opaco devido à sua complexidade.Esta falta de transparência pode comprometer a adoção destas tecnologias em domínios que dependem de decisões de alto risco, em que o processo de raciocínio deve ser transparente e claro.Esta tese centra-se no domínio da saúde, no qual esta tecnologia tem alimentado sistemas de apoio à decisão médica para ajudar os profissionais de saúde nas decisões clínicas.Além disso, sabemos que esta comunidade valoriza a existência de explicações para justificar as suas decisões clínicas.Esta questão motivou a investigação em inteligência artificial explicável, que se centra em desvendar o funcionamento interno dos algoritmos de aprendizagem automática.Embora não se centre numa aplicação médica específica, esta tese baseou-se na avaliação estética dos resultados da cirurgia do cancro da mama e na patologia computacional para ilustrar algumas das metodologias propostas nos trabalhos que fazem contribuições aplicadas.No que diz respeito às contribuições fundamentais, a gama de casos de uso é diversificada, uma vez que este projeto visava abordar alguns dos atuais desafios em aberto no domínio da inteligência artificial explicável para a saúde.Na primeira fase deste projeto, preocupamo-nos em aprender o que é relevante, estudando o papel dos mecanismos de atenção em algoritmos de aprendizagem profunda para a análise de imagem médica.Apresentamos três casos de estudo diferentes (classificação de imagem médica, pesquisa e obtenção de imagem médica e patologia computacional) em que os mecanismos de atenção desempenham um papel fundamental, procurando compreender o seu impacto no desempenho dos algoritmos e os seus potenciais benefícios para a interpretabilidade, robustez ou transparência.Uma vez que as decisões médicas se baseiam frequentemente em fontes de dados clínicos díspares, a segunda fase deste projeto centra-se em estratégias de aprendizagem automática multimodal que possam tirar partida da informação de vários tipos de dados para uma decisão clínica.Apresentamos três casos de estudo (pesquisa e obtenção multimodal de imagem médica, pesquisa e obtenção multimodal de imagem médica orientadas por mecanismos de atenção e patologia computacional multimodal) em que as estratégias multimodais beneficiam (potencialmente) o poder preditivo dos algoritmos, contribuindo indiretamente para a sua robustez e transparência.Dado que as aplicações em saúde também exigem decisões de alto risco, concordamos que a comunidade deve avançar para o desenvolvimento de algoritmos de aprendizagem automática inerentemente interpretáveis.Assim, na terceira fase deste projeto, procurámos compreender como construir algoritmos que o ser humano consiga compreender e analisámos três casos de estudo que mostram como funcionam os algoritmos inerentemente interpretáveis e mostram as suas aplicações em tarefas médicas (classificação e pesquisa e obtenção de imagem médica com redes B-cos e estudo do potencial da aprendizagem prototípica para abordagens contrafactuais).Esta tese narra uma estória sobre a obtenção de algoritmos transparentes e interpretáveis para i ii aplicações no domínio da saúde.Discutimos a nossa jornada através de diferentes dimensões do domínio da inteligência artificial explicável, na qual explorámos diversas linhas de investigação e tentámos contribuir para resolver os desafios apresentados pelo estado da arte.
Author: Tiago Filipe Sousa Gonçalves
Language: English
Open Access status: green
OpenAlex ID: W6991958264
Cites: 564
Cited by: 2
Related to: 10