Aprendizado de máquina é uma área de pesquisa na qual se investiga como desenvolver sistemas capazes de aprender com a experiência. Muitos algoritmos de aprendizado possuem parâmetros cujos valores devem ser especificados pelo usuário. Em geral, esses valores influenciam diretamente no processo de aquisição do conhecimento, podendo gerar diferentes modelos. Recentemente, algoritmos de otimização bioinspirados têm sido aplicados com sucesso no ajuste de parâmetros de técnicas de aprendizado de máquina. Essas técnicas podem apresentar diferentes sensibilidades em relação aos valores escolhidos para seus parâmetros e diferentes algoritmos de ajuste de parâmetros podem apresentar desempenhos singulares. Esta dissertação investiga a utilização de algoritmos bioinspirados para o ajuste de parâmetros de redes neurais artificiais e máquinas de vetores de suporte em problemas de classificação. O objetivo dessa investigação é verificar quais são as técnicas que mais se beneficiam do ajuste de parâmetros e quais são os algoritmos mais eficientes para essas técnicas. Os resultados experimentais mostram que os algoritmos bioinspirados conseguem encontrar melhores clasificadores que outras abordagens. Porém, essa melhoria é estatisticamente significativa para alguns conjuntos de dados. Foi possível verificar que o uso dos valores padrão para os parâmetros das técnicas de classificação leva a desempenhos similares aos obtidos com os algoritmos bioinspirados. Entretanto, para alguns conjuntos de dados, o ajuste de parâmetros pode melhorar significativamente o desempenho dos classificadores / Machine learning is a research area whose main goal is to design computational systems capable of learning through experience. Many machine learning techniques have free parameters whose values are generally defined by the user. Usually, these values affect the knowledge acquisition process directly, resulting in different models. Recently, bioinspired optimization algorithms have been successfully applied to the parameter tuning of machine learning techniques. These techniques may present variable sensitivity to the selection of the values of its parameters and different parameter tuning algorithms may present different behaviors. This thesis investigates the use of bioinspired algorithms for the parameter tuning of artificial neural networks and support vector machines in classification problems. The goal of this thesis is to investigate which techniques benefits most from parameter tuning and which are the most efficient algorithms to use with these techniques. Experimental results show that these bioinspired algorithms can find better classifiers when compared to other approaches. However, this improvement is statistically significant only to some datasets. It was possible to verify that the use of standard parameter values for the classification techniques leads to similar performances to those obtained with the bioinspired algorithms. However, for some datasets, the parameter tuning may significantly improve a classifier performance

Made available in DSpace on 2016-03-15T19:37:57Z (GMT). No. of bitstreams: 1 DAVILA PATRICIA FERREIRA CRUZ.pdf: 3761174 bytes, checksum: 5bdf7491a01f52fa9d31b6f66eca7c87 (MD5) Previous issue date: 2015-06-17 / With the popularization of Internet, the advancement of electronic devices and the ease of storage, the volume of data stored and available at companies has increased substantially. Therefore, it becomes necessary to use intelligent techniques to extract useful information and knowledge from these data. In this context, Data Mining has been the aim of several researches by providing a set of intelligent techniques to the exploration of large volumes of data. The present project aims to research and develop new algorithms inspired by the collective behavior of bee colonies for solving complex clustering and classification tasks. More specifically, this project proposes adaptations of an optimization algorithm inspired by the behavior of bees so that it can be applied to solve clustering problems and also for positioning centers of RBF neural networks. The proposed approaches were applied to several benchmark problems with promising results. / Com a popularização da Internet, o avanço dos dispositivos eletrônicos e a facilidade de armazenamento, o volume de dados armazenados e disponibilizados por empresas de diversos ramos tem aumentado rapidamente. Com isso, torna-se necessária a utilização de técnicas avançadas capazes de extrair desses dados informações úteis e conhecimentos que, na maioria das vezes, estão implícitos. Nesse contexto, a Mineração de Dados tem sido alvo de diversas pesquisas por prover um conjunto de técnicas inteligentes para a exploração de grandes volumes de dados. O presente projeto visa à investigação e desenvolvimento de novos algoritmos inspirados no comportamento coletivo das colônias de abelhas para aplicação em problemas complexos de classificação e agrupamentos de dados, que são importantes tarefas da Mineração de Dados. Mais especificamente, esse projeto propõe adaptações de um algoritmo de otimização inspirado no comportamento de abelhas, sua aplicação em problemas de agrupamento de dados e para o posicionamento de centros de redes neurais do tipo RBF. Os resultados experimentais em bases de dados da literatura mostraram a viabilidade e benefícios das propostas, tanto para problemas de agrupamento, quanto para problemas de classificação.

Aprendizado de máquina é uma área de pesquisa na qual se investiga como desenvolver sistemas capazes de aprender com a experiência. Muitos algoritmos de aprendizado possuem parâmetros cujos valores devem ser especificados pelo usuário. Em geral, esses valores influenciam diretamente no processo de aquisição do conhecimento, podendo gerar diferentes modelos. Recentemente, algoritmos de otimização bioinspirados têm sido aplicados com sucesso no ajuste de parâmetros de técnicas de aprendizado de máquina. Essas técnicas podem apresentar diferentes sensibilidades em relação aos valores escolhidos para seus parâmetros e diferentes algoritmos de ajuste de parâmetros podem apresentar desempenhos singulares. Esta dissertação investiga a utilização de algoritmos bioinspirados para o ajuste de parâmetros de redes neurais artificiais e máquinas de vetores de suporte em problemas de classificação. O objetivo dessa investigação é verificar quais são as técnicas que mais se beneficiam do ajuste de parâmetros e quais são os algoritmos mais eficientes para essas técnicas. Os resultados experimentais mostram que os algoritmos bioinspirados conseguem encontrar melhores clasificadores que outras abordagens. Porém, essa melhoria é estatisticamente significativa para alguns conjuntos de dados. Foi possível verificar que o uso dos valores padrão para os parâmetros das técnicas de classificação leva a desempenhos similares aos obtidos com os algoritmos bioinspirados. Entretanto, para alguns conjuntos de dados, o ajuste de parâmetros pode melhorar significativamente o desempenho dos classificadores / Machine learning is a research area whose main goal is to design computational systems capable of learning through experience. Many machine learning techniques have free parameters whose values are generally defined by the user. Usually, these values affect the knowledge acquisition process directly, resulting in different models. Recently, bioinspired optimization algorithms have been successfully applied to the parameter tuning of machine learning techniques. These techniques may present variable sensitivity to the selection of the values of its parameters and different parameter tuning algorithms may present different behaviors. This thesis investigates the use of bioinspired algorithms for the parameter tuning of artificial neural networks and support vector machines in classification problems. The goal of this thesis is to investigate which techniques benefits most from parameter tuning and which are the most efficient algorithms to use with these techniques. Experimental results show that these bioinspired algorithms can find better classifiers when compared to other approaches. However, this improvement is statistically significant only to some datasets. It was possible to verify that the use of standard parameter values for the classification techniques leads to similar performances to those obtained with the bioinspired algorithms. However, for some datasets, the parameter tuning may significantly improve a classifier performance

Submitted by Maria Aparecida (cidazen@gmail.com) on 2017-04-17T12:23:49Z No. of bitstreams: 1 Tiago Martins Ribeiro.pdf: 2146814 bytes, checksum: c04c7e63303157b4345d0985576e1620 (MD5) / Made available in DSpace on 2017-04-17T12:23:49Z (GMT). No. of bitstreams: 1 Tiago Martins Ribeiro.pdf: 2146814 bytes, checksum: c04c7e63303157b4345d0985576e1620 (MD5) Previous issue date: 2017-02-20 / CAPES / Complex optimization problems have been studied over the years by researchers seeking better solutions, these studies have encouraged the development of several algorithms of artificial intelligence, and a part of them are bio-inspired methods, based on the behavior of populations. These algorithms target to develop techniques based on nature in search of solutions to these problems. In this work, was introduced as a purpose, an algorithm based on the behavior of locust swarms, the Locust Swarm Optimizer (LSO). The behavior of the desert locust is introduced highlighting the formation of clouds of attacks caused by a synthesized neurotransmitter monoamine, present on the insect, known as serotonin. Observing this behavior, the LSO was developed. It was compared to other known artificial intelligence techniques through 23 benchmark functions and also tested on an power system economical dispatch problem. From the point of view of the results and the ease of implementation, it can be concluded that the LSO algorithm is very competitive as compared to existing methods / Problemas complexos de otimização vêm sendo estudados ao longo dos anos por pesquisadores que buscam melhores soluções, estes estudos incentivaram o desenvolvimento de vários algoritmos de inteligência artificial, sendo que uma parte deles são métodos bioinspirados, baseados no comportamento de populações. Estes algoritmos têm como objetivo desenvolver técnicas baseadas na natureza em busca de soluções para estes problemas. Neste trabalho um algoritmo baseado no comportamento de enxames de gafanhotos-do-deserto, o Locust Swarm Optimizer (LSO), foi introduzido como objetivo. O comportamento do gafanhoto-do-deserto é apresentado destacando a formação de nuvens de ataques causada por uma monoamina neurotransmissora sintetizada, presente no inseto, conhecido por serotonina. Observando este comportamento, foi desenvolvido o LSO. Ele foi comparado com outras conhecidas técnicas de inteligência artificial através de 23 funções benchmarks e também, testado em um problema de despacho econômico. Do ponto de vista dos resultados e da facilidade de implementação, pode-se concluir que o algoritmo LSO é bastante competitivo comparado aos métodos atuais existentes.

Orientadores: João Marcos Travassos Romano, Romis Ribeiro de Faissol Attux / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Eletrica e de Computação / Made available in DSpace on 2018-08-12T15:14:54Z (GMT). No. of bitstreams: 1 Dias_TiagoMacedo_M.pdf: 3219855 bytes, checksum: 5572e53d65cb457f420e78b3150dd6ee (MD5) Previous issue date: 2008 / Resumo: Esta dissertação se propõe a estudar um novo método para separação cega de fontes baseado no modelo Post-Nonlinear, que une uma ferramenta de busca global baseada em computação bioinspirada a uma etapa de busca local conduzida pelo algoritmo FastICA. A idéia subjacente à proposta é procurar obter soluções precisas e eficientes usando de maneira parcimoniosa os recursos computacionais disponíveis. A nova proposta foi testada em diferentes cenários, e, em todos os casos, estabeleceram-se comparações com uma abordagem alternativa, cujo passo de otimização não inclui o estágio de busca local (ou "memética"). Os resultados obtidos por meio de simulações indicam que um bom compromisso entre desempenho e custo computacional foi, de fato, atingido. / Resumo: Esta dissertação se propõe a estudar um novo método para separação cega de fontes baseado no modelo Post-Nonlinear, que une uma ferramenta de busca global baseada em computação bioinspirada a uma etapa de busca local conduzida pelo algoritmo FastICA. A idéia subjacente à proposta é procurar obter soluções precisas e eficientes usando de maneira parcimoniosa os recursos computacionais disponíveis. A nova proposta foi testada em diferentes cenários, e, em todos os casos, estabeleceram-se comparações com uma abordagem alternativa, cujo passo de otimização não inclui o estágio de busca local (ou "memética"). Os resultados obtidos por meio de simulações indicam que um bom compromisso entre desempenho e custo computacional foi, de fato, atingido. / Abstract: This work deals with a new method for source separation of Post-Nonlinear mixtures that brings together an evolutionary-based global search and a local search step based on the FastICA algorithm. The rationale of the proposal is to attempt to obtain efficient and precise solutions using with parsimony the available computational resources. The new proposal was tested in different scenarios and, in all cases, we attempted to establish grounds for comparison with an alternative approach whose optimization step does not include the local (memetic) search stage. Simulation results indicate that a good tradeoff between performance and computational cost was indeed reached. / Abstract: This work deals with a new method for source separation of Post-Nonlinear mixtures that brings together an evolutionary-based global search and a local search step based on the FastICA algorithm. The rationale of the proposal is to attempt to obtain efficient and precise solutions using with parsimony the available computational resources. The new proposal was tested in different scenarios and, in all cases, we attempted to establish grounds for comparison with an alternative approach whose optimization step does not include the local (memetic) search stage. Simulation results indicate that a good tradeoff between performance and computational cost was indeed reached. / Mestrado / Telecomunicações e Telemática / Mestre em Engenharia Elétrica