[pt] O principal objetivo desta dissertação é comparar o desempenho de modelos lineares e não-lineares de previsão de retornos de 23 ativos do mercado acionário americano. Propõe-se o modelo STAR-Tree Heterocedástico, que faz uso da metodologia do STAR-Tree (Smooth Transition AutoRegression Tree) aplicada a séries temporais heterocedásticas. Com a disponibilidade de dados de retorno e da volatilidade realizada de ações intra-diários, as séries de retornos são transformadas através da divisão de cada retorno pela sua volatilidade realizada. A série transformada apresenta variância constante. O modelo é uma combinação da metodologia STAR (Smooth Transition AutoRegression) e do algoritmo CART (Classification and Regression Tree). O modelo resultante pode ser interpretado como uma regressão de múltiplos regimes com transição suave. A especificação do modelo é feita através de testes de Multiplicadores de Lagrange, que indicam o nó a ser dividido e a variável de transição correspondente. Os modelos de comparação usados são o modelo Média, o método Naive, modelos lineares ARX e Redes Neurais. As previsões dos modelos foram avaliadas através de medidas estatísticas e financeiras. Os resultados financeiros baseam-se em uma regra de negociação automática que informa o momento de comprar e vender cada ativo. O modelo STAR-Tree Heterocedástico teve resultados estatísticos equivalentes aos dos outros modelos, porém apresentou um desempenho financeiro superior para a maioria das séries. A volatilidade realizada também foi estimada usando a metodologia STAR-Tree, e sua previsão foi utilizada para fazer uma análise de alavancagem financeira. / [en] The main goal of this dissertation is to compare the performance of linear and nonlinear models to forecast 23 assets of the American Stocks Market. The Heteroscedastic STAR-Tree Model is proposed using the STAR- Tree (Smooth Transition AutoRegression Tree) methodology applied to heteroscedastic time series. As assets returns and realized volatility intraday data are available, the returns series are transformed by dividing each return by its realized volatility, which gives homocedastic series. The model is a combination of the STAR (Smooth Transition AutoRegression) methodology and the CART (Classification and Regression Tree) algorithm. The resulting model can be interpreted as a smooth transition multiple regime regression. The model specification is done by Lagrange Multiplier tests that indicate the node to be split and the corresponding transition variable. The comparison models used are the Mean model, Naive method, ARX linear models and Neural Networks. The forecasting models were evaluated through statistical and financial measures. The financial results are based on an automatic trading rule that signals buy and hold moments in each stock. The Heteroscedastic STAR-Tree Model statistical performance was equivalent to the other models, however its financial performance was superior for most of the series. The STAR-Tree methodology was also applied for forecasting the realized volatility, and the forecasts were used in financial leverage analysis.

[pt] Este trabalho tem como objetivo principal adaptar o modelo STR-Tree, o qual é a combinação de um modelo Smooth Transition Regression com Classification and Regression Tree (CART), a fim de utilizá-lo em Classificação. Para isto algumas alterações foram realizadas em sua forma estrutural e na estimação. Devido ao fato de estarmos fazendo classificação de variáveis dependentes binárias, se faz necessária a utilização das técnicas empregadas em Regressão Logística, dessa forma a estimação dos parâmetros da parte linear passa a ser feita por Máxima Verossimilhança. Assim o modelo, que é paramétrico não-linear e estruturado por árvore de decisão, onde cada nó terminal representa um regime os quais têm seus parâmetros estimados da mesma forma que em uma Regressão Logística, é denominado Smooth Transition Logistic Regression-Tree (STLR-Tree). A inclusão dos regimes, determinada pela divisão dos nós da árvore, é feita baseada em testes do tipo Multiplicadores de Lagrange, que em sua forma para o caso Gaussiano utiliza a Soma dos Quadrados dos Resíduos em suas estatísticas de teste, aqui são substituídas pela Função Desvio (Deviance), que é equivalente para o caso dos modelos não Gaussianos, cuja distribuição da variável dependente pertença à família exponencial. Na aplicação a dados reais selecionou-se dois conjuntos das variáveis explicativas de cada uma das duas bases utilizadas, que resultaram nas melhores taxas de acerto, verificadas através de Tabelas de Classificação (Matrizes de Confusão). Esses conjuntos de variáveis foram usados com outros métodos de classificação existentes, são eles: Generalized Additive Models (GAM), Regressão Logística, Redes Neurais, Análise Discriminante, k-Nearest Neighbor (K-NN) e Classification and Regression Trees (CART). / [en] The main goal of this work is to adapt the STR-Tree model, which is the combination of a Smooth Transition with Regression model with Classi cation and Regression Tree (CART), in order to use it in Classification. Some changes were made in its structural form and in the estimation. Due to the fact we are doing binary dependent variables classification, is necessary to use the techniques employed in Logistic Regression, so the estimation of the linear part will be made by Maximum Likelihood. Thus the model, which is nonlinear parametric and structured by a decision tree, where each terminal node represents a regime that have their parameters estimated in the same way as in a Logistic Regression, is called Smooth Transition Logistic Regression Tree (STLR-Tree). The inclusion of the regimes, determined by the splitting of the tree's nodes, is based on Lagrange Multipliers tests, which for the Gaussian cases uses the Residual Sum-of-squares in their test statistic, here are replaced by the Deviance function, which is equivalent to the case of non-Gaussian models, that has the distribution of the dependent variable in the exponential family. After applying the model in two datasets chosen from the bibliography comparing with other methods of classi cation such as: Generalized Additive Models (GAM), Logistic Regression, Neural Networks, Discriminant Analyses, k-Nearest Neighbor (k-NN) and Classification and Regression Trees (CART). It can be seen, verifying in the Classification Tables (Confusion Matrices) that STLR-Tree showed the second best result for the overall rate of correct classification in three of the four applications shown, being in all of them, behind only from GAM.

[pt] Os métodos de regressão baseados em árvores são modelos não lineares e não paramétricos, estudados desde a década de 80, quando houve a criação do algoritmo CART. Até hoje há muita pesquisa nessa área e cada vez mais novos métodos são apresentados com o objetivo de aperfeiçoar os modelos já existentes. Esse trabalho propõe um novo método chamado de Regressão Construtiva em Regiões Implícitas (RCRI). Sua principal diferença, com relação aos demais métodos baseados em árvores, está na forma como o domínio é particionado. Até o momento essa partição era formada por retângulos com arestas paralelas aos eixos, porém o algoritmo RCRI permitiu que as partições fossem formadas por regiões mais flexíveis definidas implicitamente. Além disso, o trabalho também propõe uma extensão intervalar para o modelo. Duas diferentes aplicações desse novo método também são sugeridas. A primeira em atuária, que busca melhorar a estimativa da reserva IBNR fornecida pelo já usual modelo Chain Ladder. A segunda em geologia, que utiliza as informações existentes nos poços para realizar inferências sobre dados faltantes. / [en] Tree-based methods are playing an important role in non-linear and non- parametric regression. They have been studied since the 80 s, when the CART algorithm was proposed. Nowadays there is a lot of research in this area and new methods are being created, aiming at improving existing models. This work proposes a new tree-based method called Constructive Regression on Implicit Regions. Its main difference, with respect to other tree-based methods, is how the domain is partitioned. The proposed algorithm allow s partitions formed by flexible regions whose borders are implicitly defined. Moreover, the work also proposes an interval extension to the model. Two different applications of this new method are also proposed. The first one is in actuary , which look s for improvements in the estimation of IBNR reserves, already provided by the usual Chain Ladder model. The second one is in geology , which uses the well data to perform inferences about the missing data in the well itself.

[pt] Esta tese apresenta uma nova classe de modelos não lineares inspirada no modelo ARN, apresentado por Mellem, 1997. Os modelos definidos nesta classe são aditivos com coeficientes variáveis modelados por redes neurais e, tanto a média quanto a variância condicionais, são modeladas explicitamente. Neste trabalho podem ser identificadas quatro partes principais: um estudo sobre os modelos mais comuns encontrados na literatura de séries temporais; um estudo sobre redes neurais, focalizando a rede backpropagation; a definição do modelo proposto e os métodos utilizados na estimação dos parâmetros e o estudo de casos. Modelos aditivos têm sido escolha preferencial na modelagem não linear: paramétrica ou não paramétrica, de média ou de variância condicional. Além disso, tanto a idéia de modelos de coeficientes variáveis quanto a de modelos híbridos. que reúnem paradigmas diferentes, não é novidade. Por esta razão, foi traçado um panorama dos modelos não lineares mais encontrados na literatura de séries temporais, focalizando-se naqueles que tinham relacionamento mais estreito com a classe de modelos proposta neste trabalho. No estudo sobre redes neurais, além da apresentação de seus conceitos básicos, analisou- se a rede backpropagation, ponto de partida para a modelagem dos coeficientes variáveis. Esta escolha deveu- se à constatação da predominância e constância no uso desta rede, ou de suas variantes, nos estudos e aplicações em séries temporais. Demonstrou-se que os modelos propostos são aproximadores universais e podem ser utilizados para modelar a variância condicional de uma série temporal. Foram desenvolvidos algoritmos, a partir dos métodos de mínimos quadrados e de máxima verossimilhança, para a estimação dos pesos, através da adaptação do algoritmo de backpropagation à esta nova classe de modelos. Embora tenham sido sugeridos outros algoritmos de otimização, este mostrou-se suficientemente apropriado para os casos testados neste trabalho. O estudo de casos foi dividido em duas partes: testes com séries sintéticas e testes com séries reais. Estas últimas, normalmente, utilizadas como benchmarking por analistas de séries temporais não lineares. Para auxiliar na identificação das variáveis do modelo, foram utilizadas regressões de lag não paramétricas. Os resultados obtidos foram comparados com outras modelagens e foram superiores ou, no mínimo, equivalentes. Além disso, é mostrado que o modelo híbrido proposto engloba vários destes outros modelos. / [en] A class of nonlinear additive varyng coefficient models is introduced in this thesis, inspired by ARN model, presented by Mellem, 1997. the coefficients are explicitly modelled. This work is divided in four major parts: a study of most common models in the time series literature; a study of neural networks, focused in backpropagation network; the presentation of the proposed models and the methods used for parameter estimation: and the case studies. Additive models has been the preferencial choice in nonlinear modelling: idea of varyng coefficient and of hybrid models, aren`t news. Hence, the models in the time series literature were analysed, assentialy those closely related with the class of models proposed in this work. Sinse the predominance and constancy in the use of backpropagation network, or its variants, in time series studies and applications, was confirmed by this work, this network was analyzed with more details. This work demonstrated that the proposed models are universal aproximators and could model explicity conditional variance. Moreover, gradient calculus and algorithms for the weight estimation were developed based on the main estimation methods: least mean squares and maximum likelihood. Even though other gradient calculus and otimization algorithms have been sugested, this one was sufficiently adequate for the studied cases. The case studies were divided in two parts: tests with synthetic series and for the nonlinear time series analysts. The obtained results were compared with other models and were superior or, at least, equivalent. Also, these results confirmed that the proposed hybrid model encompass several of the others models

[pt] Esta dissertação tem como objetivo principal introduzir uma formulação de modelo não-linear multivariado, a qual combina o modelo STVAR (Smooth Transition Vector Autoregressive) com a metodologia CART (Classification and Regression Tree) a fim de utilizá-lo para geração de cenários e de previsões. O modelo resultante é um Modelo Vetorial Auto-Regressivo com Transição Suave Estruturado por Árvores, denominado STVAR-Tree e tem como base o conceito de múltiplos regimes, definidos por árvore binária. A especificação do modelo é feita através do teste LM. Desta forma, o crescimento da árvore é condicionado à existência de não-linearidade nas séries, que aponta a divisão do nó e a variável de transição correspondente. Em cada divisão, são estimados os parâmetros lineares, por Mínimos Quadrados Multivariados, e os parâmetros não-lineares, por Mínimos Quadrados Não-Lineares. Como forma de avaliação do modelo STVARTree, foram realizados diversos experimentos de Monte Carlo com o objetivo de constatar a funcionalidade tanto do teste LM quanto da estimação do modelo. Bons resultados foram obtidos para amostras médias e grandes. Além dos experimentos, o modelo STVAR-Tree foi aplicado às séries brasileiras de Vazão de Rios e Preço Spot de energia elétrica. No primeiro estudo, o modelo foi comparado estatisticamente com o Periodic Autoregressive (PAR) e apresentou um desempenho muito superior ao concorrente. No segundo caso, a comparação foi com a modelagem Neuro-Fuzzy e ganhou em uma das quatro séries. Somando os resultados dos experimentos e das duas aplicações conclui-se que o modelo STVAR-Tree pode ser utilizado na solução de problemas reais, apresentando bom desempenho. / [en] The main goal of the dissertation is to introduce a nonlinear multivariate model, which combines the model STVAR (Smooth Transition Vector Autoregressive) with the CART (Classification and Regression Tree) method and use it for generating scenarios and forecasting. The resulting model is a Tree- Structured Vector Autoregressive model with Smooth Transition, called STVARTree, which is based on the concept of multiple regimes, defined by binary tree. The model specification is based on Lagrange Multiplier tests. Thus, the growth of the tree is conditioned on the existence of nonlinearity in the time series, which indicates the node to be split and the corresponding transition variable. In each division, linear parameters are estimated by Multivariate Least Squares, and nonlinear parameters by Non-Linear Least Squares. As a way of checking the STVAR-Tree model, several Monte Carlo experiments were performed in order to see the functionality of both the LM test and the model estimation. Best results were obtained with medium and large samples. Besides, the STVAR-Tree model was applied to Brazilian time series of Rivers Flow and electricity spot price. In the first study, the model was statistically compared to the Periodic Autoregressive (PAR) model and had a much higher performance than the competitor. In the second case, the model comparison was with Neural-Fuzzy Modeling and the STVAR-Tree model won in one of the four series. Adding both the experiments and the two applications results we conclude that the STVARTree model may be applied to solve real problems, having good results.

[pt] O principal objetivo desta dissertação é estudar modelos de previsão da geração eólica utilizando os dados de cinco parques eólicos, mais precisamente comparar o desempenho dos modelos lineares e não lineares. Utilizando a metodologia do modelo não-linear STAR-TREE (Smooth Transition AutoRegression Tree) e comparando com o modelo linear Box e Jenkins através de medidas estatísticas. Basicamente, o modelo STAR-TREE é uma combinação dos modelos STAR (Smooth Transition AutoRegression) e CART (Classification and Regression Tree), realizando assim uma modelagem em árvore onde a transição entre os regimes é feita de forma suave através da função logística e nos nós terminais são ajustados modelos preditivos. Neste estudo será ajustado nos nós terminais um modelo simples constante e também modelos autorregressivos. / [en] The main objective of this dissertation is to study wind generation forecasting models using data from five wind farms, more accurately compare the performance of linear and nonlinear models. Using the methodology of the nonlinear model STAR-TREE (Smooth Transition Autoregression Tree) and compare with the linear model BoxandJenkins through statistical measures. Basically the model STAR-TREE is a combination of models STAR (Smooth Transition Autoregression) and CART (Classification and Regression Tree), thus creating a modeling tree where the transition between regimes is done smoothly through the logistics function and in the terminal nodes are adjusted predictive models. In this study will fit in the terminal nodes, a simple model of constant and a autoregressive models.

[pt] O objetivo desta tese é apresentar modelos mais flexíveis com troca de regimes, combinando as idéias provenientes dos modelos com limiar, com transição suave e redes neurais. Os modelos aqui discutidos possuem múltiplos regimes e a transição entre eles é controlada por uma combinação linear de variáveis conhecidas. Um procedimento de modelagem, baseada no trabalho de Teräsvirta e Lin (1993), Eiterheim e Teräsvirta (1996), e Rech, Teräsvirta e Tschernig (1999), consistindo das etapas de especificação, estimação e avaliação, foi desenvolvido, desta forma possibilitando ao analista de séries temporais escolher entre diferentes alternativas durante o processo de modelagem. / [en] The goal of this thesis is to propose more flexible regime-switching models combining the ideas from the SETAR, STAR, and ANN specifications. The models discussed in this thesis are models with multi-regimes and with the transition between regimes controlled by a linear combination of known variables. A modelling cycle procedure, based on the work of Teräsvirta and Lin (1993), Eitrheim and Teräsvirta (1996), and Rech, Teräsvirta and Tschernig (1999), consisting of the stages of model specification, parameter estimation, and model evaluation, is developed allowing the practitioner to choose among different alternatives during the modelling cycle. Monte-Carlo simulations and real applications are used to evaluate the performance of the techniques developed here and they suggested that the theory is useful and the proposed models thus seems to be an effective tool for the practicing time series analysts.

[pt] Essa tese é composta por três artigos em econometria financeira. Os dois primeiros artigos exploram a relação entre retornos intradiários do mercado de equities e a implied volatility, representada pelo Índice de Volatilidade da CBOE (VIX). Nos dois artigos, estimamos previsões um minuto à frente utilizando janelas rolantes para cada dia. No primeiro artigo, as estimativas indicam que nossos modelos de fatores de volatilidade têm uma performance superior a benchmarks tradicionais em uma análise de séries de tempo em alta frequência, mesmo aos excluirmos períodos de crise da amostra. Os resultados também indicam uma performance fora da amostra maior para dias em que não ocorrem anúncios macroeconômicos. A performance é ainda maior quando removemos períodos de crise. O segundo artigo propõe uma abordagem de aprendizado de máquinas para modelar esse exercício de previsão. Implementamos um método de estimação intradiário minuto a minuto com janelas móveis, utilizando dois tipos de modelos não lineares: redes neurais com Long-Short-Term Memory (LSTM) e Random Forests (RF). Nossas estimativas mostram que o VIX é o melhor previsor de retornos de mercado intradiários entre os candidatos na nossa análise, especialmente quando implementadas através do modelo LSTM. Esse modelo também melhora significativamente a performance quando utilizamos o retorno de mercado defasado como variável preditiva. Finalmente, o último artigo explora uma extensão multivariada do método FarmPredict, combinando modelos vetoriais autoregressivos aumentados em fatores (FAVAR) e modelos esparsos em um ambiente de alta dimensão. Utilizando um procedimento de três estágios, somos capazes de estimar e prever fatores e seus loadings, que podem ser observados, não observados ou ambos, assim como uma estrutura idiossincrática fracamente esparsa. Realizamos uma aplicação dessa metodologia em um painel de volatilidades realizadas e os resultados de performance do método em etapas indicam melhorias quando comparado a benchmarks consolidados. / [en] This thesis is composed of three papers on financial econometrics. The first two papers explore the relation between intraday equity market returns and implied volatility, represented by the CBOE Volatility Index (VIX). In both papers, we estimate one-minute-ahead forecasts using rolling windows within a day. In the first paper, the estimates indicate that our volatility factor models outperform traditional benchmarks at high frequency time-series analysis, even when excluding crisis periods. We also find that the model has a better out-of-sample performance at days without macroeconomic announcements. Interestingly, these results are amplified when we remove the crisis period. The second paper proposes a machine learning modeling approach to this forecasting exercise. We implement a minute-by-minute rolling window intraday estimation method using two nonlinear models: Long-Short-Term Memory (LSTM) neural networks and Random Forests (RF). Our estimations show that the VIX is the strongest candidate predictor for intraday market returns in our analysis, especially when implemented through the LSTM model. This model also improves significantly the performance of the lagged market return as predictive variable. Finally, the third paper explores a multivariate extension of the FarmPredict method, by combining factor-augmented vector autoregressive (FAVAR) and sparse models in a high-dimensional environment. Using a three-stage procedure, we estimate and forecast factors and its loadings, which can be observed, unobserved, or both, as well as a weakly sparse idiosyncratic structure. We provide an application of this methodology to a panel of daily realized volatilities. Finally, the accuracy of the stepwise method indicates improvements of this forecasting method when compared to consolidated benchmarks.

[pt] volatilidade dos ativos financeiros reflete uma reação prosseguida dos agentes a choques no passado ou alterações nas condições dos mercados determinam mudanças na dinâmica da variável? Enquanto modelos fracionalmente integrados vêm sendo extensamente utilizados como uma descrição adequada do processo gerador de séries de volatilidade, trabalhos teóricos recentes indicaram que mudanças estruturais podem ser uma relevante alternativa empírica para o fato estilizado de memória longa. O presente trabalho investiga o que alterações nos mercados significam nesse contexto, introduzindo variações de preços como uma possível fonte de mudanças no nível da volatilidade durante algum período, com grandes quedas (ascensões) nos preços trazendo regimes persistentes de variância alta (baixa). Uma estratégia de modelagem sistemática e flexível é estabelecida para testar e estimar essa assimetria através da incorporação de retornos acumulados passados num arcabouço não-linear. O principal resultado revela que o efeito é altamente significante - estima-se que níveis de volatilidade 25% e 50% maiores estão associados a quedas nos preços em períodos curtos - e é capaz de explicar altos valores de estimativas do parâmetro de memória longa. Finalmente, mostra-se que a modelagem desse efeito traz ganhos importantes para aplicações fora da amostra em períodos de volatilidade alta. / [en] Does volatility reflect lasting reactions to past shocks or changes in the markets induce shifts in this variable dynamics? In this work, we argue that price variations are an essential source of information about multiple regimes in the realized volatility of stocks, with large falls (rises) in prices bringing persistent regimes of high (low) variance. The study shows that this asymmetric effect is highly significant (we estimate that falls of different magnitudes over less than two months are associated with volatility levels 20% and 60% higher than the average of periods with stable or rising prices) and support large empirical values of long memory parameter estimates. We show that a model based on those findings significantly improves out of sample performance in relation to standard methods {specially in periods of high volatility.

[pt] Esta dissertação tem por objetivo comparar o desempenho de modelos não lineares de previsão de retornos em 10 ativos do mercado acionário brasileiro. Entre os modelos escolhidos, pode-se citar o STAR-Tree, que combina conceitos da metodologia STAR (Smooth Transition AutoRegression) e do algoritmo CART (Classification And Regression Trees), tendo como resultado final uma regressão com transição suave entre múltiplos regimes. A especificação do modelo é feita através de testes de hipótese do tipo Multiplicador de Lagrange que indicam o nó a ser dividido e a variável explicativa correspondente. A estimação dos parâmetros é feita pelo método de Mínimos Quadrados Não Lineares para determinar o valor dos parâmetros lineares e não lineares. Redes Neurais, modelos ARMAX (estes lineares) e ainda o método Naive também foram incluídos na análise. Os resultados das previsões foram avaliados a partir de medidas estatísticas e financeiras e se basearam em um negociador automático que informa o instante correto de assumir uma posição comprada ou vendida em cada ativo. Os melhores desempenhos foram alcançados pelas Redes Neurais, pelos modelos ARMAX e pela forma de previsão ARC (Adaptative Regime Combination) derivada da metodologia STAR-Tree, sendo ambos ainda superiores ao retorno das ações durante o período de teste / [en] The goal of this dissertation is to compare the performance of non linear models to forecast return on 10 equities in the Brazilian Stock Market. Among the chosen ones, it can be cited the STAR-Tree, which matches concepts from the STAR (Smooth Transition AutoRegression) methodology and the CART (Classification And Regression Trees) algorithm, having as the resultant structure a regression with smooth transition among multiple regimes. The model specification is done by Lagrange Multiplier hypothesis tests that indicate the node to be splitted and the corresponding explanatory variable. The parameter estimation is done by the Non Linear Least Squares method that determine the linear and non linear parameters. Neural Netwoks, ARMAX models (these ones linear) and the Naive method were also included in the analysis. The forecasting results were calculated using statistical and financial measures and were based on an automatic negociator that signaled the right instant to take a short or a long position in each stock. The best results were reached by the Neural Networks, ARMAX models and ARC (Adaptative Regime Combination ) forecasting method derived from STAR-Tree, with all of them performing better then the equity return during the test period.