Transfer Learning By Mapping and Revising Boosted Relational Dependency Networks
Authors:
Autores
| Person role | Person | |
|---|---|---|
|
6722 |
3011,250,2315
|
|
|
6723 |
3011,250,2315
|
|
|
6724 |
3011,250,2315
|
Informations:
Pesc publication
Algoritmos de aprendizado de máquina normalmente assumem que há disponível uma quantidade considerável de dados para a realização do treinamento de modelos. Com isso, as abordagens tradicionais falham em abordar domínios onde dados são difíceis ou custosos de se obter. A transferência de aprendizado surgiu para abordar o problema de escassez de dados ao considerar um modelo aprendido em um domínio de origem, onde dados são fáceis de se obter, como um ponto inicial para o domínio alvo. Por outro lado, dados de um mundo real são compostos por objetos e suas relações que normalmente advêm de ambientes com ruído. Encontrar padrões em dados relacionais probabilísticos tem sido o foco da área de Aprendizagem Estatística Relacional. Para abordar as questões de dados escassos, relacionais e incertos, neste trabalho propusemos o TreeBoostler, um algoritmo que transfere Redes de Dependência Relacional com boosting aprendidas em um domínio de origem para um domínio alvo. O algoritmo TreeBoostler primeiramente encontra um mapeamento entre pares de predicados para representar as árvores no vocabulário alvo. Após, o algoritmo aplica dois operadores de revisão de teoria para modificar a árvore de regressão relacional com o intuito de lidar com incorreções e melhorar o desempenho das árvores mapeadas. Os resultados mostraram que o TreeBoostler foi capaz de transferir conhecimento entre diversos domínios distintos com sucesso, além de ter mostrado um desempenho comparável ou melhor que os métodos de aprendizado do zero em termos de acurácia e ter obtido um desempenho melhor em termos de acurácia e tempo de execução comparado a um método de transferência de aprendizado disponível na literatura.
Statistical machine learning algorithms usually assume that there is considerablysize data to train the models. However, traditional approaches fail to address domains where data is dificult or expensive to obtain. Transfer learning has emerged to address this problem of data scarcity by relying on a model learned in a source domain where data is easy to obtain to be a starting point for the target domain. On the other hand, real-world data is composed of objects and their relations usually disposed of in a noisy environment. Finding patterns through such uncertain relational data has been the focus of the Statistical Relational Learning area. To address these issues, scarce, relational, and uncertain data, in this work we propose TreeBoostler, an algorithm that transfers Boosted Relational Dependency Networks learned in a source domain to the target domain. TreeBoostler first finds a mapping between pairs of predicates to accommodate the trees in the target vocabulary. Then, it employs two novel theory revision operators devised to change relational regression trees to handle incorrectness and improve the performance of the mapped trees. TreeBoostler has successfully transferred knowledge among several distinct domains. It performs comparably or better than learning from scratch methods in terms of accuracy and outperforms an existing transfer learning approach in terms of accuracy and runtime.