Analysis of metamorphic transformations in datasets to ensure fairness in information classification models.
Year: 2024
Type: dissertation
Abstract: O viés de classificação é um problema recorrente em sistemas de aprendizagem, sendo causado também pela presença de preconceitos e injustiças do mundo real inseridas nos dados digitais. O estudo de tal assunto se concentra na área intitulada Fairness, que embora não tenha uma definição unificada pela literatura, representa a garantia de que decisões tomadas por sistemas sejam realizadas de forma imparcial, evitando a presença de preconceitos e discriminações contra minorias de grupos sociais, sejam por gênero, raça, poder aquisitivo, etc. Porém, tais sistemas são muitas vezes intitulados como “não testáveis”, visto que não está claro quais são os resultados corretos para as classificações dos dados e, com isso, surge a discussão do quão os modelos podem generalizar seus resultados. Visando à imparcialidade a partir da generalização dos modelos, surgem as técnicas de Transformações Metamórficas, sendo alterações realizadas nos conjuntos de dados, tanto em suas estruturas como também em seus valores, empregadas no presente trabalho com o propósito de que as classificações dos modelos executados com os dados alterados possam gerar os resultados mais imparciais possíveis independentemente dos grupos sociais presentes nos dados. As Transformações Metamórficas empregadas são idealizadas e executadas em quatro cenários distintos, sejam alterando informações em partes de valores de cada atributo do conjunto de dados utilizado como também a alteração de todas as informações de um único grupo de amostras, como informações de pessoas apenas do sexo masculino ou feminino. É com este contexto que o presente trabalho se desenvolve, através da análise de diferentes aplicações e combinações de transformações metamórficas em dados de amostras que tem o gênero feminino como grupo suscetível ao preconceito por parte dos modelos de classificação, com seus valores postos em evidência através do cálculo de métricas voltadas para as áreas de Fairness, iv v v fazendo a análise seja somente com os valores classificados como também levando em consideração os valores reais, além do cálculo de métricas consolidadas em tarefas de Classificação de informações. Em termos de resultados foi possível alcançar valores que indicam melhorias de até 20% quando utilizando instâncias de modelos treinadas com os dados transformados. Ao analisar as transformações em diferentes modelos de aprendizagem foi possível embasar a discussão sobre se realmente é possível melhorar os índices de Fairness nas classificações, com alguns cenários se mostrando promissores em responder esta questão e também no engrandecimento da literatura sobre o assunto, que até então tem se mostrado escassa.
Author: DONATO, Rodolfo Bolconte.
Language: Portuguese
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
SDG: Reduced inequalities
Open Access status: green
OpenAlex ID: W7119326382
