Probabilistic reasoning interpretability in Bayesian networks with estimation of distribution algorithms
Year: 2024
Type: dissertation
Abstract: Cada vez más la explicabilidad e interpretabilidad están siendo más importantes a la hora de desarrollar modelos de machine learning, debido a la necesidad de entender por qué toman las decisiones estos modelos para adoptarlos en distintos sectores. En los últimos años se han desarrollado multitud de técnicas para explicar tanto los modelos como las predicciones, haciendo más fácil la adopción de estos modelos. Nuestro objetivo en este trabajo es contribuir desarrollando y mejorando técnicas para la interpretabilidad de redes Bayesianas y clasificadores Bayesianos. Para ello propondremos soluciones basadas en algoritmos de estimación de distribuciones. Existen multitud de técnicas para explicar modelos de machine learning, métodos que explican el razonamiento de los modelos, otros que intentan explicar las predicciones o la importancia de las variables. Nosotros nos centraremos en una técnica que busca explicar las predicciones de clasificadores Bayesianos, concretamente en las explicaciones contrafactuales. Estas buscan qué se debe de cambiar en los datos de entrada para obtener una salida deseada. Dentro de este ámbito propondremos una técnica multi-objetivo que busque el contrafactual mínimo, el que más cerca esté de la entrada optimizando varios objetivos. Este método utilizará los algoritmos de estimación de distribuciones para encontrar el mejor contrafactual y lo aplicaremos a un grupo de clasificadores Bayesianos. En cuanto a las redes Bayesianas, propondremos un algoritmo para resolver el problema de la determinación de la explicación más relevante, que consiste en una técnica que busca la explicación que maximice una métrica a partir de unas evidencias en la red, obteniendo una explicacion buena y concisa. Propondremos un método basado también en algoritmos de estimación de distribuciones, además de implementar otros algoritmos heurísticos para su comparación. También se utilizarán algoritmos existentes para comparar los resultados entre todos los métodos desarrollados. ABSTRACT Increasingly, explainability and interpretability are becoming more and more important when developing machine learning models, due to the need to understand why these models make decisions in order to adopt them in different sectors. In recent years a multitude of techniques have been developed to explain both the models and the predictions, making the adoption of these models easier. Our goal in this work is to contribute by developing and improving techniques for interpretability of Bayesian networks and Bayesian classifiers. We will propose solutions based on estimation of distribution algorithms. There are many techniques to explain machine learning models, methods that explain the model reasoning, others that try to explain the predictions or the importance of the variables. We will focus on a technique that seeks to explain the predictions provided by Bayesian classifiers, specifically counterfactual explanations. Counterfactuals look for what should be changed in the input data to obtain a desired output. Within this scope we will propose a multi-objective technique that looks for the minimum counterfactual, the one that is closest to the input by optimizing several objectives. This method will use estimation of distribution algorithms to find the best counterfactual and we will apply it to a set of Bayesian classifiers. Regarding Bayesian networks, we will propose an algorithm to solve the most relevant explanation problem, which consists of a technique that searches for the explanation that maximizes a metric from evidence in the network, obtaining a good and concise explanation. We will propose a method based on estimation of distribution algorithms, in addition to implementing other heuristic algorithms for comparison. Existing algorithms will also be used to compare the results between all the developed methods.
Author: Zaragoza Pellicer, Daniel
Language: Spanish
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
Awards: G4209197128, G4598867321, G8920660035
OpenAlex ID: W6995951528