Autores

7087
3129,250,2315
7088
3129,250,2315
7089
3129,250,2315

Informações:

Publicações do PESC

Título
Transfer Learning for Boosted Relational Dependency Networks Through Genetic Algorithms
Linha de pesquisa
Inteligência Artificial
Tipo de publicação
Dissertação de Mestrado
Número de registro
Data da defesa
14/12/2021
Resumo

Algoritmos de aprendizado de máquina aprendem modelos a partir de um conjunto de observações, visando encontrar regularidades. Entretanto, métodos tradicionais de aprendizado de máquina falham ao encontrar padrões em objetos que possuem relações entre si. Aprendizado estatístico relacional constrói padrões a partir de domínios relacionais e lida com dados com incerteza. A maioria dos métodos de aprendizado de máquina assume que os dados de treinamento e teste possuem a mesma distribuição e o mesmo espaço de features. Porém, em alguns cenários, essa suposição não é válida. Transferência de aprendizado é uma ténica que aproveita o conhecimento aprendido em uma tarefa fonte para aprender um modelo para uma tarefa alvo. A transferência entre domínios relacionais encontra um desafio adicional, sendo necessário fazer o mapeamento entre os vocabulários fonte e alvo. Esta dissertação propõe GROOT, um framework que aplica algoritmo genético e suas variações para encontrar o melhor mapeamento entre tarefas fonte e alvo e adaptar o modelo transferido. GROOT recebe um conjunto de árvores de regressão relacionais construídas com os dados fonte como ponto de partida para construir o modelo para a tarefa alvo. Ao longo das gerações, cada indivíduo carrega um mapeamento. Eles são submetidos aos operadores genéticos que recombinam sub-árvores e revisam a estrutura inicial, permitindo a poda ou expansão dos ramos. Nós também propomos um novo algoritmo, chamado modified Biased Random-Key genetic algorithm (mBRKGA), um método baseado em BRKGA e mostramos o cálculo de complexidade de espaço do mapeamento proposto no framework. Resultados experimentais conduzidos em conjuntos de dados do mundo real mostram que GROOT alcança resultados, como AUC ROC, melhores que os baselines na maioria dos casos.

Abstract

Machine learning improves models with a set of observations, aiming to find regularities. However, traditional machine learning methods fail at finding patterns from several objects and their relationships. Statistical relational learning goes a step further to discover patterns from relational domains and deal with data under uncertainty. Most machine learning methods assume the training and test data come from the same distribution and feature space. Nonetheless, in several scenarios, this assumption does not hold. Transfer learning is a technique that leverages learned knowledge from a source task to improve the performance in a target task when data is scarce. A costly challenge associated with transfer learning in relational domains is mapping from the source and target vocabularies. This dissertation proposes GROOT, a framework that applies genetic algorithm and their variations to discover the best mapping between the source and target tasks and adapt the transferred model. GROOT relies on a set of relational regression trees built from the source data as a starting point to build the models for the target task. Over generations, individuals carry a possible mapping. They are submitted to genetic operators that recombine subtrees and revise the initial structure tree, enabling a prune or expansion of the branches. We also propose a new algorithm called modified Biased Random-Key genetic algorithm (mBRKGA), a BRKGA-based method and show the space complexity calculation of the proposed mapping in the framework. Experimental results conducted in real-world datasets show that GROOT reaches results, as AUC ROC, better than the baselines in most cases.

Arquivo
Topo