1 |
[en] NEUROEVOLUTIONARY MODELS WITH ECHO STATE NETWORKS APPLIED TO SYSTEM IDENTIFICATION / [pt] MODELOS NEUROEVOLUCIONÁRIOS COM ECHO STATE NETWORKS APLICADOS À IDENTIFICAÇÃO DE SISTEMASPAULO ROBERTO MENESES DE PAIVA 11 January 2019 (has links)
[pt] Através das técnicas utilizadas em Identificação de Sistemas é possível obter um modelo matemático para um sistema dinâmico somente a partir de dados medidos de suas entradas e saídas. Por possuírem comportamento naturalmente dinâmico e um procedimento de treinamento simples e rápido, o uso de redes neurais do tipo Echo State Networks (ESNs) é vantajoso nesta área. Entretanto, as ESNs possuem hiperparâmetros que devem ser ajustados para que obtenham um bom desempenho em uma dada tarefa, além do fato de que a inicialização aleatória de pesos da camada interna destas redes (reservatório) nem sempre ser a ideal em termos de desempenho. Por teoricamente conseguirem obter boas soluções com poucas avaliações, o AEIQ-R (Algoritmo Evolutivo com Inspiração Quântica e Representação Real) e a estratégia evolucionária com adaptação da matriz de covariâncias (CMA-ES) representam alternativas de algoritmos evolutivos que permitem lidar de maneira eficiente com a otimização de hiperparâmetros e/ou pesos desta rede. Sendo assim, este trabalho propõe um modelo neuroevolucionário que define automaticamente uma ESN para aplicações de Identificação de Sistemas. O modelo inicialmente foca na otimização dos hiperparâmetros da ESN utilizando o AEIQ-R ou o CMA-ES, e, num segundo momento, seleciona o reservatório mais adequado para esta rede, o que pode ser feito através de uma segunda otimização focada no ajuste de alguns pesos do reservatório ou por uma escolha simples baseando-se em redes com reservatórios aleatórios. O método proposto foi aplicado a 9 problemas benchmark da área de Identificação de Sistemas, apresentando bons resultados quando comparados com modelos tradicionais. / [en] Through System Identification techniques is possible to obtain a mathematical model for a dynamic system from its input/output data. Due to their intrinsic dynamic behavior and simple and fast training procedure, the use of Echo State Networks, which are a kind of neural networks, for System Identification is advantageous. However, ESNs have global parameters that should be tuned in order to improve their performance in a determined task. Besides, a random reservoir may not be ideal in terms of performance. Due to their theoretical ability of obtaining good solutions with few evaluations, the Real Coded Quantum-Inspired Evolutionary Algorithm (QIEA-R) and the Covariance Matrix Adaptation Evolution Strategy (CMA-ES) represent efficient alternatives of evolutionary algorithms for optimizing ESN global parameters and/or weights. Thus, this work proposes a neuro-evolutionary method that automatically defines an ESN for System Identification problems. The method initially focuses in finding the best ESN global parameters by using the QIEA-R or the CMA-ES, then, in a second moment, in selecting its best reservoir, which can be done by a second optimization focused on some reservoir weights or by doing a simple choice based on networks with random reservoirs. The method was applied to 9 benchmark problems in System Identification, showing good results when compared to traditional methods.
|
2 |
[en] HETEROGENEOUS PARALLELIZATION OF QUANTUM-INSPIRED LINEAR GENETIC PROGRAMMING / [pt] PARALELIZAÇÃO HETEROGÊNEA DA PROGRAMAÇÃO GENÉTICA LINEAR COM INSPIRAÇÃO QUÂNTICACRISTIAN ENRIQUE MUNOZ VILLALOBOS 27 October 2016 (has links)
[pt] Um dos principais desafios da ciência da computação é conseguir que um
computador execute uma tarefa que precisa ser feita, sem dizer-lhe como fazê-la. A
Programação Genética (PG) aborda este desafio a partir de uma declaração de alto
nível sobre o que é necessário ser feito e cria um programa de computador para
resolver o problema automaticamente. Nesta dissertação, é desenvolvida uma
extensão do modelo de Programação Genética Linear com Inspiração Quântica
(PGLIQ) com melhorias na eficiência e eficácia na busca de soluções. Para tal,
primeiro o algoritmo é estruturado em um sistema de paralelização heterogênea
visando à aceleração por Unidades de Processamento Gráfico e a execução em
múltiplos processadores CPU, maximizando a velocidade dos processos, além de
utilizar técnicas otimizadas para reduzir os tempos de transferências de dados.
Segundo, utilizam-se as técnicas de Visualização Gráfica que interpretam a
estrutura e os processos que o algoritmo evolui para entender o efeito da
paralelização do modelo e o comportamento da PGLIQ. Na implementação da
paralelização heterogênea, são utilizados os recursos de computação paralela como
Message Passing Interface (MPI) e Open Multi-Processing (OpenMP), que são de
vital importância quando se trabalha com multi-processos. Além de representar
graficamente os parametros da PGLIQ, visualizando-se o comportamento ao longo
das gerações, uma visualização 3D para casos de robôtica evolutiva é apresentada,
na qual as ferramentas de simulação dinâmica como Bullet SDK e o motor gráfico
OGRE para a renderização são utilizadas. / [en] One of the main challenges of computer science is to get a computer execute
a task that must be done, without telling it how to do it. Genetic Programming (GP)
deals with this challenge from a high level statement of what is needed to be done
and creates a computer program to solve the problem automatically. In this
dissertation we developed an extension of Quantum-Inspired Linear Genetic
Programming Model (QILGP), aiming to improve its efficiency and effectiveness
in the search for solutions. For this, first the algorithm is structured in a
Heterogeneous Parallelism System, Aiming to accelerated using Graphics
Processing Units GPU and multiple CPU processors, reducing the timing of data
transfers while maximizing the speed of the processes. Second, using the techniques
of Graphic Visualization which interpret the structure and the processes that the
algorithm evolves, understanding the behavior of QILGP. We used the highperformance
features such as Message Passing Interface (MPI) and Open Multi-
Processing (OpenMP), which are of vital importance when working with multiprocesses,
as it is necessary to design a topology that has multiple levels of
parallelism to avoid delaying the process for transferring the data to a local
computer where the visualization is projected. In addition to graphically represent
the parameters of PGLIQ devising the behavior over generations, a 3D visualization
for cases of evolutionary robotics is presented, in which the tools of dynamic
simulation as Bullet SDK and graphics engine OGRE for rendering are used . This
visualization is used as a tool for a case study in this dissertation.
|
Page generated in 0.0342 seconds