Submitted by Luiza Maria Pereira de Oliveira (luiza.oliveira@ufpe.br) on 2017-07-12T14:35:17Z No. of bitstreams: 2 license_rdf: 811 bytes, checksum: e39d27027a6cc9cb039ad269a5db8e34 (MD5) DISSERTAÇÃO Diogo da Silva Severo.pdf: 871898 bytes, checksum: d5d7499d1a7c7d0838db7f6fc9dd682b (MD5) / Made available in DSpace on 2017-07-12T14:35:17Z (GMT). No. of bitstreams: 2 license_rdf: 811 bytes, checksum: e39d27027a6cc9cb039ad269a5db8e34 (MD5) DISSERTAÇÃO Diogo da Silva Severo.pdf: 871898 bytes, checksum: d5d7499d1a7c7d0838db7f6fc9dd682b (MD5) Previous issue date: 2013-08-15 / Redes Neurais Artificiais foram inspiradas nas redes neurais biológicas e as principais semelhanças compartilhadas por ambas são: capacidade de processamento de informação de forma paralela e distribuída, presença de unidades de processamento simples e capacidade de aprendizado através de exemplos. Entretanto, as redes neurais artificiais não apresentam uma característica inerente às redes neurais biológicas: modularização. Em contraste com as redes neurais artificiais, nosso cérebro apresenta áreas especializadas distintas responsáveis por tarefas específicas como visão, audição e fala, por exemplo. Com o intuito de aproximar ainda mais as redes neurais artificiais das redes neurais biológicas, foram propostas as redes neurais modulares. Tais redes tiram proveito da modularização para superar as redes neurais simples quando lidam com problemas complexos. Um conceito crucial relacionado ao uso de redes neurais modulares é a decomposição. A decomposição trata da divisão do problema original em vários subproblemas, menores e mais simples de serem resolvidos. Cada subproblema é tratado por um especialista (rede neural simples) específico. Ao solucionar seus respectivos subproblemas, cada módulo faz uso de todo o conjunto original de características para treinar seus especialistas. Entretanto, é esperado que diferentes módulos requeiram diferentes características para realizar suas tarefas. Dessa forma, é importante escolher quais características melhor preservam a informação discriminatória entre classes necessária à tarefa de classificação de cada módulo. Este trabalho propõe uma arquitetura de rede neural modular que seleciona um conjunto específico de características por módulo, sendo este um tópico pouco explorado na literatura uma vez que, em sua maioria, os trabalhos envolvendo redes neurais modulares não realizam seleção de características para cada módulo específico. O procedimento de seleção de características é um método de otimização global baseado no PSO binário. Outra contribuição do presente trabalho é um método híbrido de seleção e ponderação de características baseado no PSO binário. Foram realizados experimentos com bases de dados públicas e os resultados mostraram que a arquitetura proposta obteve melhores taxas de classificação ou taxas iguais, porém, fazendo uso de menos características quando comparadas a redes neurais modulares que não realizam a seleção de características por módulo. Os experimentos realizados com o método híbrido de seleção e ponderação de características baseado em otimização por enxame de partículas mostraram taxas de classificação superiores às taxas obtidas pelos métodos que serviram de comparação. / Artificial Neural Networks were inspired by biological neural networks and the major similarities shared by both are: the ability to process information in a parallel and istributed way, the presence of simple processing units and the ability for learning through examples. However, artificial neural networks do not present an inherent characteristic of biological neural networks: modularization. In contrast to artifical neural networks, our brain has distinct specialized areas for specific tasks such as vision, hearing and speech, for example. With the aim of bringing even more artificial neural networks to biological neural networks, modular neural networks were proposed. Such networks take advantage of modularization to outperform the simple neural networks when dealing with complex problems. A crucial concept related to the use of neural networks is the task decomposition. The task decomposition divides the original problem into several subproblems, smaller and simpler to resolve. Each subproblem is handled by a specific expert (simple neural network). To solve their subproblems, each module makes use of the whole set of features to train its expert. Nevertheless, it is expected that different modules require different features to perform their tasks. Thus, it is important to choose which features better preserve the discriminant information among classes for each module. This work proposes a modular neural network architecture that selects a specific set of features per module. This approach is a topic little explored in literature since in most cases research involving modular neural networks do not perform feature selection for each particular module. The feature selection procedure is an optimization method based on the binary particle swarm optimization. Another contribution of this work is a hybrid feature selection and weighting method based on binary PSO. Experiments were carried out on public datasets and the results show that the proposed architecture achieved better accuracy rates or equal rates, however, using less features when compared to modular neural networks that do not select features per module. Experiments with the hybrid feature selection and weighting method based on optimization particle swarm show better accuracy rates when compared to other hybrids methods used in this work as comparison methods.

Submitted by Fabio Sobreira Campos da Costa (fabio.sobreira@ufpe.br) on 2017-04-05T15:39:48Z No. of bitstreams: 2 license_rdf: 1232 bytes, checksum: 66e71c371cc565284e70f40736c94386 (MD5) everson_verissimo_dissertacao.pdf: 2502424 bytes, checksum: 0f98e5de2dc7eab2b63e0c0ccd1a6703 (MD5) / Made available in DSpace on 2017-04-05T15:39:48Z (GMT). No. of bitstreams: 2 license_rdf: 1232 bytes, checksum: 66e71c371cc565284e70f40736c94386 (MD5) everson_verissimo_dissertacao.pdf: 2502424 bytes, checksum: 0f98e5de2dc7eab2b63e0c0ccd1a6703 (MD5) Previous issue date: 2013-08-14 / CAPES / Apesar dos avanços em técnicas da Aprendizagem de Máquina, muito esforço ainda é despendido na concepção de um classificador que consiga aprender bem uma dada tarefa. Váriasabordagenssurgiramparaatenuaresseesforçoatravésdacombinaçãodeclassificadores. A combinação de classificadores permite que o projetista do sistema não necessite escolher o classificador mais eficiente dentre vários, nem descartar classificadores que podem possuir informaçãoimportantesobreatarefa. Estratégiasdecombinaçãopermitemqueváriosalgoritmos trabalhem em conjunto a fim de melhorar a precisão de todo o sistema numa dada tarefa. O objetivodestetrabalhoéproporummétododecombinaçãodeclassificadoresqueagregueas vantagensdeduasabordagens: máquinasdecomitêemisturasdeespecialistas. Asmáquinasde comitêvisamcombinarclassificadoresqueresolvempadrõesdetodooespaçodecaracterísticas. Quandocombinados,lidammelhorcomsuperfíciesdedecisãocomplexasqueumclassificador individualmente e são capazes de incorporar novos classificadores mesmo após o uso. Nas MisturasdeEspecialistas,cadaumdosclassificadoreséumespecialistaemumadeterminada áreadoespaçodecaracterísticaseemboraresolvapadrõesdetodooespaçodecaracterísticas,se dedicaaresolverproblemasbemmaissimples,atingindoumdesempenhosuperioremrelaçãoa umclassificadorsópararesolveroproblematodo. OmétodopropostoéchamadodeComitê de Misturas de Especialistas e corresponde a uma máquina de comitês formada por misturas de especialistas. Assim, o método herda a escalabilidade e a tolerância a erros das máquinas decomitêeasimplicidadedetreinamentodasmisturasdeespecialistas. Experimentosforam realizadosparaverificarasuperioridadedocomitêdemisturasdeespecialistassobretrêsfatores de mudanças entre as misturas: técnicas de decomposição de tarefas, número de grupos e características. / Despite the advance of the techniques in Machine Learning, much effort is taken to conceiveaclassifierthatlearnswellaparticulartask. Severalapproacheshavebeenproposed to attenuate this effort through combination of classifiers. Combination of classifiers allows thatnotonlythemosteffectiveclassifiersbechosenamongseveral,nordiscardclassifiersthat mayhaveimportantinformationaboutthetask. Strategiesallowthatseveralalgorithmswork togetherinordertoimproveaccuracyofthewholesystemgivenatask. Thegoalofthiswork is to propose a method to combine classifiers that put together advantages of two approaches: committeemachinesandmixtureofexperts. CommitteeMachinesaimtocombineclassifiersthat solvepatternsfromalloverthespace. Whencombined,theydealbetterwithcomplexdecision boundaries than a single classifier and they are capable of incorporating new classifiers even aftertheuse. Inthemixtureofexperts,eachoneoftheclassifiersisanexpertinacertainregion ofthefeaturespaceand,althoughitsolvespatternsfromthewholefeaturespace,theclassifier is dedicated to solve well simpler problems, reaching a better performance in comparison to a unique classifier to solve the entire problem. Also, there is a hybrid approach, the mixture of experts, in which each classifier solves patterns from the entire space as a committe, but it is trained with patterns from a smaller region, similarly to modular neural networks. The proposedmethodisentitledCommitteeofMixtureofExpertsandcorrespondstoacommittee machineformedbymixtureofexperts. So,themethodinheritsscalabilityanderrortolerance from committee machines and training simplicity from the mixture of experts. Experiments weremadetoverifythesuperiorityofthecommitteeofmixturesofexpertsoverthreefactorsof changingamongthemixtures: taskdecompositionmethods,numberofgroupsandfeatures.