Informações:

Publicações do PESC

Título
Entropia, Informação e Qualidade: De Um Perceptron para Avaliar Similaridade entre Strings até Um Modelo de Campos Conservativos
Linha de pesquisa
Inteligência Artificial
Tipo de publicação
Tese de Doutorado
Número de registro
Data da defesa
29/11/2017
Resumo

Informação, enquanto um objeto concreto das ciências exatas e da natureza, tem o trabalho de Claude Shannon, A Mathematical Theory of Communication, como referencial teórico basilar. Essa noção de informação nasceu com uma irmã antípoda: a incerteza - chamada de entropia em razão de sua semelhança formal com a entropia na estatística mecânica. Neste trabalho, utiliza-se medidas de entropia para compor um processo de comparação entre palavras usando um ínico neurônio perceptron como unidade de decisão (um processo de natureza qualitativa modelado quantitativamente). Para produzir a entropia fornecida ao perceptron, o conceito de mitos é desenvolvido - permitindo a contagem de variações de histórias ficcionais e etiológicas sobre diferenças ou similaridades entre as palavras comparadas. Como resultado final, propõe-se a utilização de conceitos clássicos vetoriais - em especial o cálculo de distâncias e de cossenos entre vetores - para comparação funções de probabilidade de uma mesma família.

Abstract

Information, as a tangible object belonging to the exact sciences, has the work of Claude Shannon, A Mathematical Theory of Communication, as its theoretical basilar reference. That notion of information was born with an antipodean sister: uncertainty - called entropy due to its formal similarity to entropy in mechanical statistics. In this work, we use entropy measures to handcraft a process of word comparison using a single perceptron neuron as a decision unit (a qualitative process modeled quantitatively). To produce the entropy supplied to the perceptron, the concept of myths is developed - allowing for the counting of variations of fictional and etiological histories due to di erences or similarities between the words compared. In the end, it is proposed the use of classical vector concepts - in particular the calculation of distances and cosines between vectors - to compare probability functions from the same family.

Arquivo
Topo