[pt] Esta dissertação apresenta o desenvolvimento de um sistema híbrido, baseado em Algoritmos Genéticos (AG) e Redes Neurais (RN), no processo de seleção de ações, na determinação do percentual a investir em cada ativo também denominado peso do ativo na carteira e gerenciamento de carteiras de investimento. O objetivo do trabalho é avaliar o desempenho de Algoritmos Genéticos e Redes neurais para a montagem e gerenciamento de carteiras de investimento. A construção e gerenciamento de carteiras de investimento é um problema de múltiplos objetivos (retorno e risco) onde deseja-se escolher um conjunto de ações de empresas com perspectivas de lucro para formar a carteira de investimento. Esta escolha é difícil devido ao grande número de possibilidades e parâmetros a serem considerados, como: retorno, risco, correlação, volatilidade, entre outros; razão pela que é considerado como problema do tipo NP-completo. O trabalho de pesquisa foi desenvolvido em 5 etapas principais: um estudo sobre a área de carteiras de investimento; um estudo sobre os modelos com técnicas de inteligência computacional empregados nesta área; a definição de um modelo híbrido Genético-Neural para a seleção e gerenciamento da carteira para o caso estacionário; a definição de um modelo híbrido Genético- Neural para a seleção e gerencia de carteira para o caso variante no tempo; e o estudo de casos. O estudo sobre a área de carteiras de investimento envolveu toda a teoria necessária para a construção e gerenciamento de carteiras de investimento. O estudo sobre as técnicas de inteligência computacional, define-se os conceitos principais de Algoritmos Genéticos e Redes Neurais empregados nesta dissertação. A modelagem híbrida Genético-Neural para o caso clássico ou estacionário, constituiu fundamentalmente mo emprego de um Algoritmo Genético para selecionar os ativos da carteira a partir de um subconjunto de ativos noticiados na Bolsa de Valores de São Paulo - Brasil (BOVESPA). Uma Rede Neural auxilia na gerência da carteira, fazendo previsões dos retornos dos ativos para o próximo período de avaliação da carteira. Na seleção de ativos, dois algoritmos genéticos são modelados: o primeiro procura escolher 12 dentre 137 ativos negociados na BOVESPA, que apresentem maior expectativa de retorno, com menor risco e que apresentem baixa correlação com os demais ativos; e o segundo procura escolher os ativos empregando o modelo de Makowitz e o critério de Fronteira eficiente. A previsão de retornos da as ações é uma estratégia que visa melhorar o desempenho de carteiras de investimento que, tipicamente, consideram apenas o retorno médio do ativo. Diferentes modelos de redes neurais foram testados, como: Backpropagation, Redes Neurais Bayesianas, Sistema Neuro-Fuzzy Hierárquico e Redes Neurais com Filtros de Kalman; os melhores resultados de previsão foram obtidos com redes neurais com Filtros de Kalman. Para o caso estacionário foram usadas como entradas da rede neural os retornos semanais, tanto do ativo como do índice do mercado, empregando-se o método de janela deslizante para a previsão um passo a frente. A modelagem híbrida Genético-Neural para o caso variante no tempo, constituiu no emprego de 3 modelos: um AG para fazer a escolha dos ativos da carteira; o modelo GARCH para fazer as previsões da volatilidade dos ativos e o cálculo do risco de cada um deles dado pelo VAR (medida de risco que tenta quantificar a perda máxima que uma carteira (ou ativo) pode ter em um horizonte de tempo e com um intervalo de confiança); e uma RN para fazer as previsões dos retornos dos ativos para o próximo período de avaliação de carteira. Na montagem da carteira, empregou-se o Critério de Fronteira eficiente para a seleção dos ativos, também dentre os 137 negociados na BOVESPA. A previsão da volatilidade das ações é uma forma de indicar quanto pode variar o preço da ação, medida útil para determinar o risco de um ativo representado pelo VAR. / [en] This dissertation presents the development of a hybrid system, based in Algorithms Genetics (AG) and Neural Networks (RN), for the selection of stocks, for the determination of the percentage to invest in each asset called weight of the stocks on the portfolio and investmet portfolio management. The objective multiples (return and risk) where desired to choose a set of actions of compaines with profit perspectives to form the investment portfolio. This choice difficult must to the great number of possiblities and parameters be considered, as: return, risk, correlation volatility, among others; reason by which it is considered as problem NP-Complete. The research work was developed in 5 main stages: a study on the investment portfolio area; a study on the models that use techniques of computacinal intelligence in this area; the dffinition of a hybrid model Genetic-Neural for the selection and manages of portfolio for the variant case in the time; and the study of cases. The study of the investment portfolio area it involved all the necessary theory for the construction and investment portfolio management. The study the techniques of computacional intelligence it defines the main concepts of Genetic Algorithms and Neural Networks used in this dissertation. The hybrid modeling Genetic-Neural for the classic or stationary case, consisted basically in the use of a Genetic Algorithm to select the stocks of the portfolio from a subgroup of assets negotiated in the Stock exchange of São Paulo - Brazil (BOVESPA). A Neural Network assists in the management of the portfolio, making forecasts of the returns of the assets for the next period to evaluation of the portfolio. In the asset seletion, two genetic algorithm are shaped: the first selects 12 amongst 137 assets negotiated in the São Paulo Stock Exchange, that present greater return expectation, with lesser risk and that they present low correlation with the others assets; and the second selects the assets using the model of Markowitz and the Criterion of Efficient Frontier. The forecast of returns of the stocks is a strategy that it aims at to improve the investment portfolio performance, typically, they consider only the average return of the asset. Diferent models of neural networks had been tested as: Neural Back Propagation, Networks Bayesianas, Hierarchic Neuro-Fuzzy System and Neural Networks with Filters of Kalman. The best ones resulted of forecast had been gotten with the neural network the weekly returns, as Filters of Kalman. For the stationary case they had been used as entred of the neural network the weekly returns, as much of the asset as of the index of the market, using itself the method of sliding window to make the forecast a step the front. The hybrid modeling Genetic-Neural for the variant case in the time, consisted of the use of 3 models: a AG to make the choice of the assets of the portfolio; model GARCH to make the forecasts of the volatility of the assets and the calculation of the risk of each asset is given by the VAR (measured of risk that tries to quantify the maximum loss that portfolio (or asset) can have in a horizon of time and with a confidence interval); e a RN to make the forecasts of the returns of the assets for the next period to evaluation of the portfolio. In the construction of the portfolio, the Criterion of Efficient Frontier for the selection of the assets was used, also amongst the 137 negotiated in the São Paulo Stock Exchange. The forecast of the volatility of the assets is a form to indicate how much it can vary the price of the assets, measured useful to determine the risk of an asset represented for the VAR. For this case job model GARCH to make this forecast. For the forecast of the returns os the assets they had been used as inputs of the Neural Networks Back Propagation the 10 last weekly returns of the assets and the volatily of the asset, using itself also the method of sliding win

[pt] Markowitz em 1959 estruturou as bases da teoria moderna de seleção de carteiras através da análise do risco e do retorno de ativos. Mesmo após cinco décadas sua teoria ainda é amplamente utilizada como base para construção de carteiras de investimentos. Nessa dissertação investigamos variações do modelo de Markowitz para seleção de carteiras tanto de um ponto de vista teórico quanto prático. Analisamos o impacto dos diferentes métodos de estimativa de risco e retorno, custos transacionais, risco alvo e freqüência da revisão de carteira. Para que fosse possível testar e analisar as estratégias estudadas, implementamos um simulador versátil e robusto além de criar uma base de dados com dados diários de 41 ativos da bolsa de valores brasileira, CDI e IBOVESPA. / [en] Markowitz in 1959 structured the foundations of the modern portfolio theory through the analysis of risk and return of assets. Now, after five decades his theory is still widely used as a basis for building portfolios. In this thesis we investigate variations of the Markowitz model for portfolio selection from both a theoretical and practical point of view. We analyzed the impact of different methods for the prediction of risk and return, transaction costs, target risk and frequency of revision of the portfolio. In order to test and analyze the strategies studied we implemented a robust and versatile simulator and created a database with daily data of 41 assets from the Brazilian stock exchange, CDI and IBOVESPA.