Estimation of Distribution Algorithms (EDAs) belong to the class of population based optimisation algorithms. They are motivated by the idea of discovering and exploiting the interaction between variables in the solution. They estimate a probability distribution from population of solutions, and sample it to generate the next population. Many EDAs use probabilistic graphical modelling techniques for this purpose. In particular, directed graphical models (Bayesian networks) have been widely used in EDA. This thesis proposes an undirected graphical model (Markov Random Field (MRF)) approach to estimate and sample the distribution in EDAs. The interaction between variables in the solution is modelled as an undirected graph and the joint probability of a solution is factorised as a Gibbs distribution. The thesis describes a model of fitness function that approximates the energy in the Gibbs distribution, and shows how this model can be fitted to a population of solutions to estimate the parameters of the MRF. The estimated MRF is then sampled to generate the next population. This approach is applied to estimation of distribution in a general framework of an EDA, called Distribution Estimation using Markov Random Fields (DEUM). The thesis then proposes several variants of DEUM using different sampling techniques and tests their performance on a range of optimisation problems. The results show that, for most of the tested problems, the DEUM algorithms significantly outperform other EDAs, both in terms of number of fitness evaluations and the quality of the solutions found by them. There are two main explanations for the success of DEUM algorithms. Firstly, DEUM builds a model of fitness function to approximate the MRF. This contrasts with other EDAs, which build a model of selected solutions. This allows DEUM to use fitness in variation part of the evolution. Secondly, DEUM exploits the temperature coefficient in the Gibbs distribution to regulate the behaviour of the algorithm. In particular, with higher temperature, the distribution is closer to being uniform and with lower temperature it concentrates near some global optima. This gives DEUM an explicit control over the convergence of the algorithm, resulting in better optimisation.

The trap of local optima is one of the main challenges of stochastic optimization methods from machine learning. The aim of this thesis is to develop an optimization algorithm that is inspired by users interacting with Picbreeder, which is an online service that allows users to collaboratively evolve images via an artificial evolution. The idea is that their behaviours depict creative processes. We propose a general framework on the top of a common optimization technique called inspiration-triggered search, which mimics these processes. Instead of a fixed objective function the search algorithm is free to change the objective within certain constraints. The overall optimization task is to generate complex artefacts that cannot be generated by a greedy and direct optimization approach. The proposed method is tested in the domain of images, that is to find complex and aesthetically pleasant images for humans, and compared with the direct optimization. Powered by TCPDF (www.tcpdf.org)

Este trabalho apresenta um método baseado em algoritmos genéticos – AGs, o qual consiste na estimação dos parâmetros associados as formas de ondas, tais como amplitude, freqüência e ângulo de fase das mesmas, referentes a uma proposição de relé de freqüência. O método proposto é baseado em algoritmos genéticos com representação real, tendo em vista a não necessidade de codificação dos valores logo na entrada do processo. O objetivo do trabalho é apresentar um estudo de uma das várias técnicas da computação evolutiva, conhecida como AG, cuja aplicação é inspirada nos mecanismos da evolução natural das espécies identificado pelo naturalista inglês Charles Darwin. A idéia principal do método é fazer com que os indivíduos da população evoluam ao longo das iterações, chamadas gerações, produzindo soluções cada vez melhores até convergir a uma solução ótima ou aproximadamente ótima. O algoritmo proposto foi testado com dados simulados no software Matlab. Pelos resultados observados têm-se caracterizado a potencialidade desta ferramenta computacional na estimação dos parâmetros desejados. / This work presents a method based on genetic algorithm – GAs, which consists on estimation of parameters in waveforms, such as their amplitude, frequency and phase angles, related to the application of a frequency relay. The proposed study is based on the genetic algorithms with real representation, once there is no need to codify the values on the input of the process. The objective of this work is to present one of the several techniques of artificial intelligence, known as genetic algorithm, in which the main application is inspired in mechanisms of natural evolution of the species identified by Charles Darwin. The main idea of this method is to make the individuals from one population, called generation, to evolute, producing better solutions until they converge to an optimal or approximately optimal solution. The proposed algorithm was tested with simulated data from Matlab software. The results observed have characterized the efficiency of this computational tool for the estimation of the desired parameters.

A Determinação da Estrutura tridimensional de Proteínas (DEP) a partir da sua seqüência de aminoácidos é importante para a engenharia de proteínas e o desenvolvimento de novos fármacos. Uma alternativa para este problema tem sido a aplicação de técnicas de computação evolutiva. As abordagens utilizando Algoritmos Evolutivos (AEs) tem obtido resultados relevantes, porém estão restritas a pequenas proteínas, com dezenas de aminoácidos e a algumas classes de proteínas. Este trabalho propõe a investigação de uma abordagem utilizando AEs para a predição da estrutura terciária de proteínas independentemente do seu tamanho e classe. Os resultados obtidos demonstram que apesar das dificuldades encontradas a abordagem investigada constitue-se em uma alternativa em relação aos métodos clássicos de determinação da estrutura terciária das proteínas. / Protein structure determination (DEP) from aminoacid sequences is very importante to protein engineering and development of new drugs. Evolutionary computation has been aplied to this problem with relevant results. Nevertheless, Evolutionary Algorithms (EAs) can work with only proteins with few aminoacids and some protein classes. This work proposes an approach using AEs to predict protein tertiary structure independly from their size and class. The obtained results show that, despite of the difficulties that have been found, the investigate approach is a relevant alternative to classical methods to protein structure determination.

Neste trabalho foi realizada uma proposta de utilização de Sistemas de Inferência Nebulosos para controlar, em tempo de execução, parâmetros de Algoritmos Genéticos. Esta utilização busca melhorar o desempenho de Algoritmos Genéticos diminuindo, ao mesmo tempo: a média de iterações necessárias para que um Algoritmo Genético encontre o valor ótimo global procurado; bem como diminuindo o número de execuções do mesmo que não são capazes de encontrar o valor ótimo global procurado, nem mesmo para quantidades elevadas de iterações. Para isso, foram analisados os resultados de diversos experimentos com Algoritmos Genéticos, resolvendo instâncias dos problemas de Minimização de Funções e do Caixeiro Viajante, sob diferentes configurações de parâmetros. Com base nos resultados obtidos a partir destes experimentos, foi proposto um modelo com a troca de valores de parâmetros de Algoritmos Genéticos, em tempo de execução, pela utilização de Sistemas de Inferência Nebulosos, de forma a melhorar o desempenho do sistema, minimizando ambas as medidas citadas anteriormente. / This work addressed a proposal of the application of Fuzzy Systems to adjust parameters of Genetic Algorithms, during execution time. This application attempts to improve the performance of Genetic Algorithms by diminishing, at the same time: the average number of necessary generations for a Genetic Algorithm to find the desired global optimum value, as well as diminishing the number of executions of a Genetic Algorithm that are not capable of finding the desired global optimum value even for high numbers of generations. For that purpose, the results of many experiments with Genetic Algorithms were analyzed; addressing instances of the Function Minimization and the Travelling Salesman problems, under different parameter configurations. With the results obtained from these experiments, a model was proposed, for the exchange of parameter values of Genetic Algorithms, in execution time, by using Fuzzy Systems, in order to improve the performance of the system, minimizing both of the measures previously cited.

Submitted by Maria Cristina (library@lncc.br) on 2015-09-25T19:05:07Z No. of bitstreams: 1 thesis.pdf: 3598969 bytes, checksum: 03cf8e5a078613d707c68e89e449d6d3 (MD5) / Approved for entry into archive by Maria Cristina (library@lncc.br) on 2015-09-25T19:05:20Z (GMT) No. of bitstreams: 1 thesis.pdf: 3598969 bytes, checksum: 03cf8e5a078613d707c68e89e449d6d3 (MD5) / Made available in DSpace on 2015-09-25T19:05:31Z (GMT). No. of bitstreams: 1 thesis.pdf: 3598969 bytes, checksum: 03cf8e5a078613d707c68e89e449d6d3 (MD5) Previous issue date: 2015-05-27 / Conselho Nacional de Desenvolvimento Cientifico e Tecnológico / In this thesis, the evolutionary computation algorithm known as Genetic Programming has been explored as an alternative tool for improving the ensemble forecast of rainfall amount. The efficiency of Genetic Programming to deal with the problem of ensemble forecast of rainfall amount was confirmed on three artificial experiments. The work continued with the application of the evolutionary algorithms on some real-world data sets over south, southeast and central parts of Brazil during the period from October to February of 2008 to 2013. According to the results, Genetic Programming obtained a higher performance relative to two traditional statistical methods, reaching mean errors 27-49% lower than simple mean and the MASTER Super Model Ensemble System. In addition, the results revealed that the evolutionary algorithms outperformed the best individual forecasts, achieving an improvement of 30%. On the other hand, the evolutionary algorithms had a performance similar to the Bayesian Model Averaging technique, but the former are methods far more versatile. In general, the real and artificial experiments showed the potential of Genetic Programming and suggest that further research on the improvement of the technique is needed. / Na presente tese de doutorado, o algoritmo da computação evolutiva conhecido por Programação Genética foi explorado como ferramenta alternativa para o aperfeiçoamento da previsão quantitativa de chuva por conjunto. A aplicabilidade da Programação Genética no problema de previsão quantitativa de chuva por conjunto foi confirmada em três experimentos controlados. O trabalho seguiu com a aplicação dos algoritmos evolutivos sobre algumas bases de dados reais referentes a localidades situadas no sul, sudeste e parte do centro-oeste do Brasil durante o período de outubro a fevereiro de 2008-2013. Os resultados evidenciaram a superioridade da Programação Genética frente aos métodos estatísticos tradicionais: média simples e MASTER Super Model Ensemble System, com erros médios da ordem de 27-49% menores. Ademais, a previsão por conjunto via algoritmos evolutivos ofereceu previsões consideravelmente mais acuradas que as melhores previsões obtidas individualmente, chegando a uma melhora de 30%. Por outro lado, os algoritmos evolutivos apresentaram desempenho equivalente à técnica Bayesian Model Averaging, mas os primeiros são métodos bem mais versáteis. De maneira geral, os experimentos baseados em dados reais e artificiais revelaram a potencialidade da Programação Genética, e encorajam o seu aprimoramento para o problema de previsão quantitativa de chuva por conjunto.

Este trabalho realiza uma análise dos modelos pertencentes à Computação Neural e à Computação Evolutiva visando identificar semelhanças entre as áreas e sustentar mapeamentos entre as semelhanças identificadas. Neste contexto, a identificação de similaridades visando à resolução de problemas de otimização combinatorial resulta em uma comparação entre a Máquina de Boltzmann e os Algoritmos Evolutivos binários com população composta por um único indivíduo pai e um único indivíduo descendente. Como forma de auxiliar nas análises, o trabalho utiliza o Problema do Caixeiro Viajante como plataforma de ensaios, propondo mapeamentos entre as equações da Máquina de Boltzmann e os operadores evolutivos da Estratégia Evolutiva (1+1)-ES. / An analysis between the Evolutionary Computation and the Neural Computation fields was presented in order to identify similarities and mappings between the theories. In the analysis, the identification of similarities between the models designed for combinatorial optimization problems results in a comparison between the Boltzmann Machine and the Two-Membered Evolutionary Algorithms. In order to analyze the class of combinatorial optimization problems, this work used the Traveling Salesman Problem as a study subject, where the Boltzmann Machine equations were used to implement the evolutionary operators of an Evolution Strategy (1+1)-ES.

A segurança nos voos de Veículos Aéreos Não Tripulados (VANTs) é uma importante questão e vem ganhando destaque devido a uma série de acidentes com tais aeronaves. O aumento do número de aeronaves no espaço aéreo e a autonomia cada vez maior para realizar missões estão entre outros elementos que merecem destaques. No entanto, pouca atenção tem sido dada a autonomia da aeronave em casos emergenciais [Contexto]. Nesse contexto, o desenvolvimento de algoritmos que efetuem o planejamento de rotas na ocorrência de situações críticas é fundamental para obter maior segurança aérea. Eventuais situações de insegurança podem estar relacionadas a uma falha nos equipamentos do veículo aéreo que impede a continuação da missão em curso pela aeronave [Lacuna]. A presente pesquisa avança o estado da arte considerando um conceito chamado In-Flight Awareness (IFA), que estabelece consciência situacional em VANTs, visando maior segurança de voo. Os estudos também avançam na proposição de modelos matemáticos que representem o estado da aeronave avariada, viabilizando o pouso emergencial e minimizando possíveis danos [Propósito]. Este trabalho utiliza técnicas de computação evolutiva como Algoritmos Genéticos (AG) e Algoritmos Genéticos Multi-Populacional (AGMP), além de uma Heurística Gulosa (HG) e um modelo de Programação Linear Inteira Mista (PLIM) no tratamento de falhas críticas juntamente com o conceito de IFA [Metodologia]. As soluções obtidas foram avaliadas através de experimentos offline usando os modelos matemáticos desenvolvidos, além de validadas em um simulador de voo e em um voo real. De forma geral, o AG e AGMP obtiveram resultados equivalentes, salvando o VANT em aproximadamente 89% dos mapas. A HG conseguiu trazer a aeronave até uma região bonificadora em 77% dos mapas dentro de um tempo computacional abaixo de 1 segundo. No modelo PLIM, o tempo gasto foi de cerca de quatro minutos já que garantia a otimalidade da solução encontrada. Devido ao seu elevado tempo computacional, uma estratégia evolvendo rotas pré-calculadas foi definida a partir do PLIM, mostrando-se bastante promissora. Nos experimentos envolvendo simulador de voo foram testadas diferentes condições de vento e se verificou que mesmo sobre tais condições os métodos desenvolvidos conseguiram efetuar o pouso com segurança [Resultado]. O trabalho apresentado colabora com a segurança de Veículos Aéreos Não Tripulados e com a proposta de modelos matemáticos que representem a aeronave em caso de situações críticas. Os métodos, de forma geral, mostraram-se promissores na resolução do problema de pouso emergencial já que trouxeram a aeronave com segurança até regiões interessantes ao pouso em um baixo tempo computacional. Isso foi atestado pelos resultados obtidos a partir das simulações offline, em simulador de voo e em voo real [Conclusão]. As principais contribuições do trabalho são: modelagem de regiões adequadas ao pouso, modelagem de falhas, arquitetura do sistema planejador de rotas e modelo linear para para pouso emergencial [Contribuição]. / The security involved in flights of Unmanned Aerial Vehicles (UAVs) is an important issue and is achieving prominence due to a number of accidents involving such aircraft. Other elements that deserve highlights are the increase in the number of aircraft in the airspace and autonomy to perform missions, however, little attention has been given to the autonomy of the aircraft in emergency cases [Context]. In this context, the development of algorithms that contribute significantly to the path planning in the event of critical situations is essential for more air traffic. Possible situations of insecurity may be related to a failure in the equipment of vehicle that prevents the continuation of the current mission by aircraft [Gap]. The research advances the state of the art considering a concept called In-Flight Awareness (IFA), which provides situational awareness in UAVs aiming at greater flight safety. Advances also in the developing of mathematical models that represent the state of the damaged aircraft, with the purpose to execute the emergency landing by minimizing damages [Purpose]. Thus, this work applies evolutionary computation techniques such as Genetic Algorithms (GA) and Multi-Population Genetic Algorithms (MPGA), as well as a Greedy Heuristic (GH) and a Mixed Integer Linear Programming (MILP) model to deal with critical situations along with the concept of IFA [Methodology]. The solutions obtained were evaluated through offline experiments using the developed mathematical models, which were validated in a flight simulator and a real-world flight. In General, the GA and MPGA reached similar results by saving the UAV in approximately 89% of the maps, while the GH was able to bring the aircraft to a bonus region for 77% of maps within a feasible computational time lower than 1 second. In the MILP model, the time spent was about four minutes since it guarantees optimality of the solution found. Due to such high computational time, a strategy involving nearby routes pre-calculated was defined from the MILP which was very promising. In experiments involving flight simulator, different wind conditions were tested and it was found that even under such conditions the methods developed have managed to execute the landing safely [Result]. The work presented collaborates with the safety of Unmanned Aerial Vehicles and with the proposal of mathematical models that represent the aircraft under critical situations. The methods, in general, were promising since they brought the aircraft to execute a safe landing within a low computational time as shown by offline simulations, flight simulator and real flight [Conclusion]. The main contributions are: fault modeling, system architecture planner routes and linear model for emergency landing. [Contribution].

This paper aims to present the thesis developed in the Doctoral Programin Computer Science and Computational Mathematics of the ICMC/USP. The thesis theme seeks to advance the state of the art by solving the problems of scalability and representation present in mission planning algorithms for Unmanned Aerial Vehicle (UAV). Techniques based on mathematical programming and evolutionary computation are proposed. Articles have been published, submitted or they are in final stages of preparation.These studies report the most significant advances in the representation and scalability of this problem. Mission planners worked on the thesis deal with stochastic problems in non-convex environments,where collision risks or failures in mission planning are treated and limited to a tolerated value. The advances in the representation allowed to solve violations in the risks present in the original literature modeling, besides making the models more realistic when incorporating aspects such as effects of the air resistance. Efficient mathematical modeling techniques allowed to advance from a Mixed Integer Nonlinear Programming (MINLP) model, originally proposed in the literature, to a Mixed Integer Linear Programming (MILP) problem. Modeling as a MILP led to problem solving more efficiently through the branch-and-algorithm. The proposed new representations resulted in improvements from scalability, solving more complex problems within a shorter computational time. In addition, advances in scalability are even more effective when techniques combining mathematical programming and metaheuristics have been applied to the problem. / O presente documento tem por objetivo apresentar a tese desenvolvida no Programade Doutorado em Ciência da Computação e Matemática Computacional do ICMC/USP. O tema da tese busca avançar o estado da arte ao resolver os problemas de escalabilidade e representação presentes em algoritmos de planejamento para missões com Veículos Aéreos Não Tripulados (VANTs). Técnicas baseadas em programação matemática e computação evolutiva são propostas. Artigos foram publicados, submetidos ou se encontram em fase final de elaboração. Esses trabalhos reportamos avanços mais significativos obtidos na representação e escalabilidade deste problema.Os planejadores de missão trabalhados na tese lidam com problemas estocásticos em ambientes não convexos, onde os riscos de colisão ou falhas no planejamento da missão são tratados e limitados a um valor tolerado. Os avanços na representação permitiram solucionar violações nos riscos presentes na modelagem original, além de tornar os modelos mais realistas ao incorporar aspectos como efeitos da resistência do ar. Para isso, técnicas eficientes de modelagem matemática permitiram avançar de um modelo de Programação Não-Linear Inteira Mista(PNLIM), originalmente proposto na literatura, para um problema de Programação Linear Inteira Mista (PLIM). A modelagem como um PLIM levou à resolução do problema de forma mais eficiente através do algoritmo branch-and-cut. As novas representações propostas resultaram em melhorias na escalabilidade, solucionando problemas mais complexos em um tempo computacional menor.Além disso,os avanços em escalabilidade mostraram-se mais efetivos quando técnicas combinando programação matemática e metaheurísticas foram aplicadas ao problema.

Submitted by Liliane Ferreira (ljuvencia30@gmail.com) on 2018-04-04T11:42:16Z No. of bitstreams: 2 Dissertação - Caio José Fernandes Póvoa - 2018.pdf: 6079271 bytes, checksum: 5efa21665d3c5f3bf6b4a58652fff6b4 (MD5) license_rdf: 0 bytes, checksum: d41d8cd98f00b204e9800998ecf8427e (MD5) / Approved for entry into archive by Luciana Ferreira (lucgeral@gmail.com) on 2018-04-04T13:23:10Z (GMT) No. of bitstreams: 2 Dissertação - Caio José Fernandes Póvoa - 2018.pdf: 6079271 bytes, checksum: 5efa21665d3c5f3bf6b4a58652fff6b4 (MD5) license_rdf: 0 bytes, checksum: d41d8cd98f00b204e9800998ecf8427e (MD5) / Made available in DSpace on 2018-04-04T13:23:10Z (GMT). No. of bitstreams: 2 Dissertação - Caio José Fernandes Póvoa - 2018.pdf: 6079271 bytes, checksum: 5efa21665d3c5f3bf6b4a58652fff6b4 (MD5) license_rdf: 0 bytes, checksum: d41d8cd98f00b204e9800998ecf8427e (MD5) Previous issue date: 2018-03-22 / This dissertation of master degree describes methods of optimizing routes and allocating towers of overhead power lines, with the objective of meeting technical, structural and constructive constraints, and reducing financial costs. The generated solutions are graphically presented through the transmission line profile and its 3-dimension representation upon the elevation map of the area. For the projects evaluation, elements of structural analysis are used, highlighting the Matrix Structural Analysis for the study of efforts and deformations in the towers and their components. Three methods are proposed, each one using different approaches. First, it will be shown an optimization algorithm based on Evolutionary Computation, characterized by the application of natural selection on individuals generated from mutations and genetic crossover. The second algorithm was inspired by the well-known Nelder-Mead optimization method. The triangular transformations addressed in the original method were adapted and physically implemented to transmission lines. The last optimization algorithm presented is a hybridization of the two previous methods. Finally, a performance comparison of the algorithms, in which each one of them will be applied to three different cases, will be carried out in order to validate them. / Esta dissertação de mestrado descreve métodos de otimização de trajetos e alocação de torres de linhas aéreas de transmissão de energia elétrica, com o objetivo de obedecer a restrições técnicas, estruturais e construtivas, e de reduzir custos financeiros. As soluções encontradas são apresentadas graficamente a partir da plotagem do perfil da linha de transmissão, e da sua representação em três dimensões sobre o mapa de relevo da região. Para a avaliação dos projetos, utilizam-se elementos de análise estrutural, destacando-se a Análise Estrutural Matricial para o estudo dos esforços e deformações nas torres e seus componentes. São propostos três métodos que utilizam abordagens diferentes. Primeiramente, será considerado um algoritmo de otimização baseado na Computação Evolucionária, caracterizando-se pela aplicação da seleção natural ao longo de gerações, em indivíduos gerados a partir de mutações e recombinações. O segundo algoritmo apresentado é inspirado no consagrado método de Nelder-Mead, sendo as transformações triangulares, por ele apresentadas, adaptadas e implementadas fisicamente a linhas de transmissão. O último método de otimização é uma hibridação dos dois métodos anteriores. Por fim, será feita uma comparação de desempenho dos algoritmos apresentados, a partir da aplicação de cada um deles a três estudos de caso distintos para validá-los.