[pt] O principal objetivo desta dissertação é comparar o desempenho de modelos lineares e não-lineares de previsão de retornos de 23 ativos do mercado acionário americano. Propõe-se o modelo STAR-Tree Heterocedástico, que faz uso da metodologia do STAR-Tree (Smooth Transition AutoRegression Tree) aplicada a séries temporais heterocedásticas. Com a disponibilidade de dados de retorno e da volatilidade realizada de ações intra-diários, as séries de retornos são transformadas através da divisão de cada retorno pela sua volatilidade realizada. A série transformada apresenta variância constante. O modelo é uma combinação da metodologia STAR (Smooth Transition AutoRegression) e do algoritmo CART (Classification and Regression Tree). O modelo resultante pode ser interpretado como uma regressão de múltiplos regimes com transição suave. A especificação do modelo é feita através de testes de Multiplicadores de Lagrange, que indicam o nó a ser dividido e a variável de transição correspondente. Os modelos de comparação usados são o modelo Média, o método Naive, modelos lineares ARX e Redes Neurais. As previsões dos modelos foram avaliadas através de medidas estatísticas e financeiras. Os resultados financeiros baseam-se em uma regra de negociação automática que informa o momento de comprar e vender cada ativo. O modelo STAR-Tree Heterocedástico teve resultados estatísticos equivalentes aos dos outros modelos, porém apresentou um desempenho financeiro superior para a maioria das séries. A volatilidade realizada também foi estimada usando a metodologia STAR-Tree, e sua previsão foi utilizada para fazer uma análise de alavancagem financeira. / [en] The main goal of this dissertation is to compare the performance of linear and nonlinear models to forecast 23 assets of the American Stocks Market. The Heteroscedastic STAR-Tree Model is proposed using the STAR- Tree (Smooth Transition AutoRegression Tree) methodology applied to heteroscedastic time series. As assets returns and realized volatility intraday data are available, the returns series are transformed by dividing each return by its realized volatility, which gives homocedastic series. The model is a combination of the STAR (Smooth Transition AutoRegression) methodology and the CART (Classification and Regression Tree) algorithm. The resulting model can be interpreted as a smooth transition multiple regime regression. The model specification is done by Lagrange Multiplier tests that indicate the node to be split and the corresponding transition variable. The comparison models used are the Mean model, Naive method, ARX linear models and Neural Networks. The forecasting models were evaluated through statistical and financial measures. The financial results are based on an automatic trading rule that signals buy and hold moments in each stock. The Heteroscedastic STAR-Tree Model statistical performance was equivalent to the other models, however its financial performance was superior for most of the series. The STAR-Tree methodology was also applied for forecasting the realized volatility, and the forecasts were used in financial leverage analysis.

[pt] Esta dissertação tem como objetivo principal introduzir uma formulação de modelo não-linear multivariado, a qual combina o modelo STVAR (Smooth Transition Vector Autoregressive) com a metodologia CART (Classification and Regression Tree) a fim de utilizá-lo para geração de cenários e de previsões. O modelo resultante é um Modelo Vetorial Auto-Regressivo com Transição Suave Estruturado por Árvores, denominado STVAR-Tree e tem como base o conceito de múltiplos regimes, definidos por árvore binária. A especificação do modelo é feita através do teste LM. Desta forma, o crescimento da árvore é condicionado à existência de não-linearidade nas séries, que aponta a divisão do nó e a variável de transição correspondente. Em cada divisão, são estimados os parâmetros lineares, por Mínimos Quadrados Multivariados, e os parâmetros não-lineares, por Mínimos Quadrados Não-Lineares. Como forma de avaliação do modelo STVARTree, foram realizados diversos experimentos de Monte Carlo com o objetivo de constatar a funcionalidade tanto do teste LM quanto da estimação do modelo. Bons resultados foram obtidos para amostras médias e grandes. Além dos experimentos, o modelo STVAR-Tree foi aplicado às séries brasileiras de Vazão de Rios e Preço Spot de energia elétrica. No primeiro estudo, o modelo foi comparado estatisticamente com o Periodic Autoregressive (PAR) e apresentou um desempenho muito superior ao concorrente. No segundo caso, a comparação foi com a modelagem Neuro-Fuzzy e ganhou em uma das quatro séries. Somando os resultados dos experimentos e das duas aplicações conclui-se que o modelo STVAR-Tree pode ser utilizado na solução de problemas reais, apresentando bom desempenho. / [en] The main goal of the dissertation is to introduce a nonlinear multivariate model, which combines the model STVAR (Smooth Transition Vector Autoregressive) with the CART (Classification and Regression Tree) method and use it for generating scenarios and forecasting. The resulting model is a Tree- Structured Vector Autoregressive model with Smooth Transition, called STVARTree, which is based on the concept of multiple regimes, defined by binary tree. The model specification is based on Lagrange Multiplier tests. Thus, the growth of the tree is conditioned on the existence of nonlinearity in the time series, which indicates the node to be split and the corresponding transition variable. In each division, linear parameters are estimated by Multivariate Least Squares, and nonlinear parameters by Non-Linear Least Squares. As a way of checking the STVAR-Tree model, several Monte Carlo experiments were performed in order to see the functionality of both the LM test and the model estimation. Best results were obtained with medium and large samples. Besides, the STVAR-Tree model was applied to Brazilian time series of Rivers Flow and electricity spot price. In the first study, the model was statistically compared to the Periodic Autoregressive (PAR) model and had a much higher performance than the competitor. In the second case, the model comparison was with Neural-Fuzzy Modeling and the STVAR-Tree model won in one of the four series. Adding both the experiments and the two applications results we conclude that the STVARTree model may be applied to solve real problems, having good results.

[pt] O principal objetivo desta dissertação é estudar modelos de previsão da geração eólica utilizando os dados de cinco parques eólicos, mais precisamente comparar o desempenho dos modelos lineares e não lineares. Utilizando a metodologia do modelo não-linear STAR-TREE (Smooth Transition AutoRegression Tree) e comparando com o modelo linear Box e Jenkins através de medidas estatísticas. Basicamente, o modelo STAR-TREE é uma combinação dos modelos STAR (Smooth Transition AutoRegression) e CART (Classification and Regression Tree), realizando assim uma modelagem em árvore onde a transição entre os regimes é feita de forma suave através da função logística e nos nós terminais são ajustados modelos preditivos. Neste estudo será ajustado nos nós terminais um modelo simples constante e também modelos autorregressivos. / [en] The main objective of this dissertation is to study wind generation forecasting models using data from five wind farms, more accurately compare the performance of linear and nonlinear models. Using the methodology of the nonlinear model STAR-TREE (Smooth Transition Autoregression Tree) and compare with the linear model BoxandJenkins through statistical measures. Basically the model STAR-TREE is a combination of models STAR (Smooth Transition Autoregression) and CART (Classification and Regression Tree), thus creating a modeling tree where the transition between regimes is done smoothly through the logistics function and in the terminal nodes are adjusted predictive models. In this study will fit in the terminal nodes, a simple model of constant and a autoregressive models.

[pt] volatilidade dos ativos financeiros reflete uma reação prosseguida dos agentes a choques no passado ou alterações nas condições dos mercados determinam mudanças na dinâmica da variável? Enquanto modelos fracionalmente integrados vêm sendo extensamente utilizados como uma descrição adequada do processo gerador de séries de volatilidade, trabalhos teóricos recentes indicaram que mudanças estruturais podem ser uma relevante alternativa empírica para o fato estilizado de memória longa. O presente trabalho investiga o que alterações nos mercados significam nesse contexto, introduzindo variações de preços como uma possível fonte de mudanças no nível da volatilidade durante algum período, com grandes quedas (ascensões) nos preços trazendo regimes persistentes de variância alta (baixa). Uma estratégia de modelagem sistemática e flexível é estabelecida para testar e estimar essa assimetria através da incorporação de retornos acumulados passados num arcabouço não-linear. O principal resultado revela que o efeito é altamente significante - estima-se que níveis de volatilidade 25% e 50% maiores estão associados a quedas nos preços em períodos curtos - e é capaz de explicar altos valores de estimativas do parâmetro de memória longa. Finalmente, mostra-se que a modelagem desse efeito traz ganhos importantes para aplicações fora da amostra em períodos de volatilidade alta. / [en] Does volatility reflect lasting reactions to past shocks or changes in the markets induce shifts in this variable dynamics? In this work, we argue that price variations are an essential source of information about multiple regimes in the realized volatility of stocks, with large falls (rises) in prices bringing persistent regimes of high (low) variance. The study shows that this asymmetric effect is highly significant (we estimate that falls of different magnitudes over less than two months are associated with volatility levels 20% and 60% higher than the average of periods with stable or rising prices) and support large empirical values of long memory parameter estimates. We show that a model based on those findings significantly improves out of sample performance in relation to standard methods {specially in periods of high volatility.

[pt] Esta dissertação tem por objetivo comparar o desempenho de modelos não lineares de previsão de retornos em 10 ativos do mercado acionário brasileiro. Entre os modelos escolhidos, pode-se citar o STAR-Tree, que combina conceitos da metodologia STAR (Smooth Transition AutoRegression) e do algoritmo CART (Classification And Regression Trees), tendo como resultado final uma regressão com transição suave entre múltiplos regimes. A especificação do modelo é feita através de testes de hipótese do tipo Multiplicador de Lagrange que indicam o nó a ser dividido e a variável explicativa correspondente. A estimação dos parâmetros é feita pelo método de Mínimos Quadrados Não Lineares para determinar o valor dos parâmetros lineares e não lineares. Redes Neurais, modelos ARMAX (estes lineares) e ainda o método Naive também foram incluídos na análise. Os resultados das previsões foram avaliados a partir de medidas estatísticas e financeiras e se basearam em um negociador automático que informa o instante correto de assumir uma posição comprada ou vendida em cada ativo. Os melhores desempenhos foram alcançados pelas Redes Neurais, pelos modelos ARMAX e pela forma de previsão ARC (Adaptative Regime Combination) derivada da metodologia STAR-Tree, sendo ambos ainda superiores ao retorno das ações durante o período de teste / [en] The goal of this dissertation is to compare the performance of non linear models to forecast return on 10 equities in the Brazilian Stock Market. Among the chosen ones, it can be cited the STAR-Tree, which matches concepts from the STAR (Smooth Transition AutoRegression) methodology and the CART (Classification And Regression Trees) algorithm, having as the resultant structure a regression with smooth transition among multiple regimes. The model specification is done by Lagrange Multiplier hypothesis tests that indicate the node to be splitted and the corresponding explanatory variable. The parameter estimation is done by the Non Linear Least Squares method that determine the linear and non linear parameters. Neural Netwoks, ARMAX models (these ones linear) and the Naive method were also included in the analysis. The forecasting results were calculated using statistical and financial measures and were based on an automatic negociator that signaled the right instant to take a short or a long position in each stock. The best results were reached by the Neural Networks, ARMAX models and ARC (Adaptative Regime Combination ) forecasting method derived from STAR-Tree, with all of them performing better then the equity return during the test period.

[pt] O objetivo principal desta tese introduzir um modelo estruturado por árvores que combina aspectos de duas metodologias: CART (Classification and Regression Tree) e STR (Smooth Transition Regression). O modelo aqui denominado STR-Tree. A idéia especificar um modelo não-linear paramétrico através da estrutura de uma árvore de decisão binária. O modelo resultante pode ser analisado como uma regressão com transição suave entre múltiplos regimes. As decisões sobre as divisões dos nós são inteiramente baseadas em testes do tipo Multiplicadores de Lagrange. Uma especificação alternativa baseada em validação cruzada também utilizada. Um experimento de Monte Carlo utilizado para avaliar o desempenho da metodologia proposta comparando-a com outras técnicas comumente utilizadas. Como resultado verifica-se que o modelo STR- Tree supera o tradicional CART quando seleciona a arquitetura de árvores simuladas. Além do mais, utilizar testes do tipo Multiplicadores de Lagrange gera resultados melhores do que procedimentos de validação cruzada. Quando foram utilizadas bases de dados reais, o modelo STR-Tree demonstrou habilidade preditiva superior ao CART. Através de uma aplicação, extende-se a metodologia para a análise de séries temporais. Neste caso, o modelo denominado STAR- Tree, sendo obtido através de uma árvore de decisão binária que ajusta modelos autoregressivos de primeira ordem nos regimes. A série de retornos da taxa de câmbio Euro/Dólar foi modelada e a capacidade preditiva e o desempenho financeiro do modelo foi comparado com metodologias padrões como previsões ingênuas e modelos ARMA. Como resultado obtido um modelo parcimonioso que apresenta desempenho estatístico equivalente às estratégias convencionais, porém obtendo resultados financeiros superiores. / [en] He main goal of this Thesis is to introduce a tree- structured model that combines aspects from two methodologies: CART (Classification and Regression Trees) and STR (Smooth Transition Regression). The model is called STR-Tree, The idea is to specify a nonlinear parametric model through the structure of a binary decision tree. The resulting modelo can be analyzed as a smooth transition regression model with multiple regimes. The decisions for splitting the nodes of the tree are entirely based on Lagrange Multipliers tests. An alternative specification that uses cross- validation is also tried. A Monte Carlo Experiment is used to evaluate the performance of the proposed methodology and to compare with other techniques that are commonly used. The results showed that the STRTree model outperformed the traditional CART when specifying the architecture of a simulated tree. Moreover, the use of Lagrange Multipliers tests gave better results than a cross-validation procedure. After applying the model to real datasets, it could be seen that STR-Tree showed superior predictive ability when compared to CART. The idea was extended to time series analysis through an application. In this situation, we call the model as STAR- Tree which is obtained through a binary decision tree that fits first-order autoregressive models for different regimes. The model was fitted to the returns of Euro/Dolar exchange rate time series and then evaluated statistically and financially. Comparing with the naive approach and ARMA methodology, the STAR-Tree was parsimonious and presented statistical performance equivalent to others. The financial results were better than the others.

[pt] Este trabalho propõe um novo modelo linear por partes para a extração de regras de conhecimento de banco de dados. O modelo é uma heurística baseada em análise de árvore de regressão, como introduzido por Friedman (1979) e discutido em detalhe por Breiman (1984). A motivação desta pesquisa é trazer uma nova abordagem combinando técnicas estatísticas de modelagem e um algoritmo de busca por quebras eficiente. A decisão de quebra usada no algoritmo de busca leva em consideração informações do ajuste de equações lineares e foi implementado tendo por inspiração o trabalho de Tsay (1989). Neste, ele sugere um procedimento para construção um modelo para a análise de séries temporais chamado TAR (threshold autoregressive model), introduzido por Tong (1978) e discutido em detalhes por Tong e Lim (1980) e Tong (1983). O modelo TAR é um modelo linear por partes cuja idéia central é alterar os parâmetros do modelo linear autoregressivo de acordo com o valor de uma variável observada, chamada de variável limiar. No trabalho de Tsay, a Identificação do número e localização do potencial limiar era baseada na analise de gráficos. A idéia foi então criar um novo algoritmo todo automatizado. Este processo é um algoritmo que preserva o método de regressão por mínimos quadrados recursivo (MQR) usado no trabalho de Tsay. Esta talvez seja uma das grandes vantagens da metodologia introduzida neste trabalho, visto que Cooper (1998) em seu trabalho de análise de múltiplos regimes afirma não ser possível testar cada quebra. Da combinação da árvore de decisão com a técnica de regressão (MQR), o modelo se tornou o TS-TARX (Tree Structured - Threshold AutoRegression with eXternal variables). O procedimento consiste numa busca em árvore binária calculando a estatística F para a seleção das variáveis e o critério de informação BIC para a seleção dos modelos. Ao final, o algoritmo gera como resposta uma árvore de decisão (por meio de regras) e as equações de regressão estimadas para cada regime da partição. A principal característica deste tipo de resposta é sua fácil interpretação. O trabalho conclui com algumas aplicações em bases de dados padrões encontradas na literatura e outras que auxiliarão o entendimento do processo implementado. / [en] This research work proposes a new piecewise linear model to extract knowledge rules from databases. The model is an heuristic based on analysis of regression trees, introduced by Friedman (1979) and discussed in detail by Breiman (1984). The motivation of this research is to come up with a new approach combining both statistical modeling techniques and an efficient split search algorithm. The split decision used in the split search algorithm counts on information from adjusted linear equation and was implemented inspired by the work of Tsay (1989). In his work, he suggests a model-building procedure for a nonlinear time series model called by TAR (threshold autoregressive model), first proposed by Tong (1978) and discussed in detail by Tong and Lim (1980) and Tong (1983). The TAR model is a piecewise linear model which main idea is to set the coefficients of a linear autoregressive process in accordance with a value of observed variable, called by threshold variable. Tsay`s identification of the number and location of the potential thresholds was based on supplementary graphic devices. The idea is to get the whole process automatic on a new model-building process. This process is an algorithm that preserves the method of regression by recursive least squares (RLS) used in Tsay`s work. This regression method allowed the test of all possibilities of data split. Perhaps that is the main advantage of the methodology introduced in this work, seeing that Cooper, S. (1998) said about the impossibility of testing each break.Thus, combining decision tree methodology with a regression technique (RLS), the model became the TS-TARX (Tree Structured - Threshold AutoRegression with eXternal variables). It searches on a binary tree calculating F statistics for variable selection and the information criteria BIC for model selection. In the end, the algorithm produces as result a decision tree and a regression equation adjusted to each regime of the partition defined by the decision tree. Its major advantage is easy interpretation.This research work concludes with some applications in benchmark databases from literature and others that helps the understanding of the algorithm process.