Return to search

q-Gaussians for pattern recognition

Submitted by Isaac Francisco de Souza Dias (isaac.souzadias@ufpe.br) on 2016-07-13T19:23:52Z
No. of bitstreams: 2
license_rdf: 1232 bytes, checksum: 66e71c371cc565284e70f40736c94386 (MD5)
Dusan Stosic - dissertacao de mestrado.pdf: 6434406 bytes, checksum: db312999879f1c3ebb1795ce764a272e (MD5) / Made available in DSpace on 2016-07-13T19:23:52Z (GMT). No. of bitstreams: 2
license_rdf: 1232 bytes, checksum: 66e71c371cc565284e70f40736c94386 (MD5)
Dusan Stosic - dissertacao de mestrado.pdf: 6434406 bytes, checksum: db312999879f1c3ebb1795ce764a272e (MD5)
Previous issue date: 2016-03-01 / CAPES / Pattern recognition plays an important role for solving many problems in our everyday lives: from simple tasks such as reading texts to more complex ones like driving cars. Subconsciously, the recognition of patterns is instantaneous and an innate ability to every human. However, programming (or “teaching”) a machine how to do the same can present an incredibly difficult task. There are many situations where irrelevant or misleading patterns, poorly represented classes, and complex decision boundaries make recognition very hard, or even impossible by current standards. Important contributions to the field of pattern recognition have been attained through the adoption of methods of statistical mechanics, which has paved the road for much of the research done in academia and industry, ranging from the revival of connectionism to modern day deep learning. Yet traditional statistical mechanics is not universal and has a limited domain of applicability - outside this domain it can make wrong predictions. Non-extensive statistical mechanics has recently emerged to cover a variety of anomalous situations that cannot be described within standard Boltzmann-Gibbs theory, such as non-ergodic systems characterized by long-range interactions, or long-term memories. The literature on pattern recognition is vast, and scattered with applications of non-extensive statistical mechanics. However, most of this work has been done using non-extensive entropy, and little can be found on practical applications of other non-extensive constructs. In particular, non-extensive entropy is widely used to improve segmentation of images that possess strongly correlated patterns, while only a small number of works employ concepts other than entropy for solving similar recognition tasks. The main goal of this dissertation is to expand applications of non-extensive distributions, namely the q-Gaussian, in pattern recognition. We present ourcontributions in the form of two (published) articles where practical uses of q-Gaussians are explored in neural networks. The first paper introduces q Gaussian transfer functions to improve classification of random neural networks, and the second paper extends this work to ensembles which involves combining a set of such classifiers via majority voting. / Reconhecimento de padrões tem um papel importante na solução de diversos problemas no nosso quotidiano: a partir de tarefas simples como ler textos, até as mais complexas como dirigir carros. Inconscientemente, o reconhecimento de padrões pelo cérebro é instantâneo, representando uma habilidade inata de cada ser humano. No entanto, programar (ou “ensinar”) uma máquina para fazer o mesmo pode se tornar uma tarefa extremamente difícil. Há muitas situações onde padrões irrelevantes ou enganosos, classes mal representadas, ou bordas de decisões complexas, tornam o reconhecimento muito difícil, ou mesmo impossível pelos padrões atuais. Diversas contribuições importantes na área de reconhecimento de padrões foram alcançadas através da aplicação de métodos provenientes da mecânica estatística, que estimularam uma grande parte da pesquisa conduzida na academia bem como na indústria, desde o renascimento de conexionismo até o moderno conceito de “deep learning”. No entanto, a mecânica estatística tradicional não é universal e tem um domínio de aplicação limitado - fora deste domínio ela pode fazer previsões erradas. A mecânica estatística não-extensiva surgiu recentemente para atender uma variedade de situações anômalas que não podem ser descritas de forma adequada com a teoria de Boltzmann-Gibbs, tais como sistemas não-ergódicos, caracterizadas por interações de longo alcance, ou memórias de longo prazo. A literatura sobre reconhecimento de padrões é vasta, e dispersa com aplicações da mecânica estatística não-extensiva. No entanto, a maioria destes trabalhos utilizam a entropia não-extensiva, e existem poucas aplicações práticas de outros conceitos não-extensivos. Em particular, a entropia não extensiva é amplamente usada para aperfeiçoar segmentação de imagens que possuem padrões fortemente correlacionados, enquanto apenas um pequeno número de trabalhos empregam outros conceitos não-extensivos para resolver tarefas semelhantes. O objetivo principal desta dissertação é expandir aplicações de distribuições não-extensivas, como a q-Gaussiana, em reconhecimento de padrões. Nos apresentamos as nossas contribuições no formato de dois artigos (publicados) onde exploramos usos práticos da q-Gaussiana em redes neurais. O primeiro artigo introduz funções de transferência baseados na q-Gaussiana para aperfeiçoar a classificação de redes neurais aleatórias, e o segundo artigo estende este trabalho para ensembles, onde um conjunto de tais classificadores são combinados através de votação por maioria.

Identiferoai:union.ndltd.org:IBICT/oai:repositorio.ufpe.br:123456789/17361
Date01 March 2016
CreatorsSTOSIC, Dusan
ContributorsLUDERMIR, Teresa Bernarda
PublisherUniversidade Federal de Pernambuco, Programa de Pos Graduacao em Ciencia da Computacao, UFPE, Brasil
Source SetsIBICT Brazilian ETDs
LanguageEnglish
Detected LanguageEnglish
Typeinfo:eu-repo/semantics/publishedVersion, info:eu-repo/semantics/masterThesis
Sourcereponame:Repositório Institucional da UFPE, instname:Universidade Federal de Pernambuco, instacron:UFPE
RightsAttribution-NonCommercial-NoDerivs 3.0 Brazil, http://creativecommons.org/licenses/by-nc-nd/3.0/br/, info:eu-repo/semantics/openAccess

Page generated in 0.0026 seconds