[pt] Esta dissertação de mestrado analisa os efeitos de previsão de séries temporais com redes neurais em conjunto com a técnica de poda, denominada de Regularização Bayesiana. Utilizam-se diversas séries simuladas cujo processo gerador é de fato linear para comparar as previsões feitas por meio de modelos auto-regressivos lineares e redes neurais. Apresenta-se,ao final, uma comparação entre os modelos citados acima, segundo à eficiência preditiva de cada um. / [en] This paper studies the performance of neural networks estimated with Bayesian regularization to model and forecast time series where the data generations process is in fact linear. A simulation experiment is carried out to compare the forecast made by linear autoregressive models and neural networks.

[pt] Demanda intermitente é definida por períodos de vendas nulas intercaladas com vendas positivas e de quantidade altamente variável. A maior parte das unidades de manutenção de estoque (stock keeping units, em inglês) ao nível loja pode ser caracterizada como contendo demanda desse tipo. Assim, modelos acurados para prever séries com demanda intermitente trazem grandes impactos em relação à gestão de estoque. Nesta dissertação nós propomos o uso do framework GAS com as distribuições adequadas para dados de contagem, além de suas versões com excesso de zeros, e aplicamos os modelos derivados a dados reais obtidos com uma grande rede varejista brasileira. Nós demonstramos que os modelos com excesso de zeros propostos são estimados de forma consistente por máxima verossimilhança e a distribuição dos estimadores é assintóticamente normal. A performance dos modelos propostos é comparada com benchmarks adequados das literaturas de séries temporais para dados de contagem e previsão de demanda intermitente. A avaliação das previsões é feita com base tanto na precisão da distribuição preditiva quanto na precisão das previsões pontuais. Nossos resultados mostram que os modelos propostos, em especial o modelo derivado sob distribuição hurdle Poisson, performam melhor do que os benchmarks analisados. / [en] Intermittent demand is defined by periods of zero sales interleaved with positive sales with highly variable quantities. Most stock keeping units at the store level can be characterized as containing such demand. Thus, accurate models for predicting series with intermittent demand have major impacts in relation to inventory management. In this dissertation we propose the use of the GAS framework with the appropriate distributions for count data, in addition to their versions with excess of zeroes, and apply the derived models to real data obtained from a large Brazilian retail chain. We demonstrate that the proposed models with excess of zeros are consistently estimated via maximum likelihood and the distribution of the estimator is asymptotically normal. The performance of the proposed models is compared to adequate benchmarks from the time series literature for count data and intermittent demand forecast. Forecasting is evaluated based on the accuracy of both the entire predictive distribution and point forecasts. Our results show that the proposed models, specially the one derived from hurdle Poisson distribution, perform better than the analyzed benchmarks.

[pt] Os modelos orientados por score, também conhecidos como modelos generalizados de score autorregressivo (GAS), representam uma classe de modelos de séries temporais orientados por observação. Eles possuem propriedades desejáveis para modelagem de séries temporais, como a capacidade de modelar diferentes distribuições condicionais e considerar parâmetros variantes no tempo dentro de uma estrutura flexível. Neste trabalho, apresentamos ScoreDrivenModels.jl, um pacote Julia de código aberto para modelagem, previsão e simulação de séries temporais usando a estrutura de modelos baseados em score. O pacote é flexível no que diz respeito à definição do modelo, permitindo ao usuário especificar a estrutura de atraso e quais parâmetros são variantes no tempo ou constantes. Também é possível considerar várias distribuições, incluindo Beta, Exponencial, Gama, Lognormal, Normal, Poisson, Student s t e Weibull. A interface fornecida é flexível, permitindo aos usuários interessados implementar qualquer distribuição e parametrização desejada. / [en] Score-driven models, also known as generalized autoregressive score (GAS) models, represent a class of observation-driven time series models. They possess desirable properties for time series modeling, such as the ability to model different conditional distributions and to consider time-varying parameters within a flexible framework. In this dissertation, we present ScoreDrivenModels.jl, an open-source Julia package for modeling, forecasting, and simulating time series using the framework of score-driven models. The package is flexible with respect to model definition, allowing the user to specify the lag structure and which parameters are time-varying or constant. It is also possible to consider several distributions, including Beta, Exponential, Gamma, Lognormal, Normal, Poisson, Student s t, and Weibull. The provided interface is flexible, allowing interested users to implement any desired distribution and parametrization.

[pt] O presente estudo, apresenta um conjunto de propostas metodológicas relacionadas a reconciliação de previsões em Séries Temporais Hierárquicas. O principal objetivo é apresentar soluções originais ao tema, buscando obter previsões mais acuradas do que as obtidas por modelos independentes para os diferentes níveis da hierarquia. Os estudos foram realizados considerando dados reais, mostrando a potencialidade de aplicação dos métodos desenvolvidos em diferentes cenários, onde as series temporais são estruturadas de forma hierárquica. Esta tese é composta por um conjunto de ensaios que exploram a reconciliação de previsão sob a ótica de um modelo de regressão, que dá origem a reconciliação ótima. A primeira contribuição trata do problema da reconciliação de previsões na perspectiva de estimadores robustos. A proposta apresenta uma contribuição original aplicada a dados dos de pesquisas de força de trabalho no Brasil, apresentando um conjunto de soluções que podem direcionar políticas públicas eficientes. Neste caso, as previsões reconciliadas obtidas através de estimadores robustos possibilitaram um maior ganho em termos acurácia e uma performance equivalente aos métodos que representam o estado da arte sobre reconciliação de previsões em séries temporais hierárquicas. A segunda contribuição trata do problema da reconciliação ótima em séries de consumo de energia no Brasil, apresentado uma proposta alternativa, menos sensível a valores estremos. Os resultados obtidos neste segundo trabalho apresentam melhoramentos consideráveis em métricas de avaliação padrão no que diz respeito as novas previsões. Uma terceira proposta busca oferecer uma estrutura alternativa de covariância dos erros de previsão, que irá ampliar o conjunto de propostas apresentadas na literatura para o método de reconciliação denominado por MinT (do inglês, Minimum Trace) , que minimiza os erros de reconciliação, oferecendo um estimador de variância mínima. / [en] This study presents a set of methodological proposals aimed at improving forecast reconciliation in the context of Hierarchical Time Series. The main objective is to present original solutions to the theme, seeking to obtain more accurate forecasts than those obtained by independent models for the different levels of the hierarchy. The studies were conducted using real data, showing the potentiality of application of the methods developed in different scenarios, in which the time series are structured in a hierarchical fashion. This thesis is composed of a set of essays that explore forecast reconciliation from the perspective of a regression model, which gives foundations to optimal reconciliation. The first contribution addresses the problem of forecast reconciliation from the perspective of robust estimators. The proposal presents an original contribution applied to data from labor force surveys in Brazil, presenting a set of solutions that can drive efficient public policies. In this case, the reconciled forecasts obtained through robust estimators provided consistent gains in terms of accuracy when compared to methods that represent the state-of-the-art on forecast reconciliation in hierarchical time series. The second contribution deals with the problem of optimal reconciliation applied to energy consumption time series in Brazil. We present an alternative proposal, less sensitive to outlying forecasts at the reconciliation stage. The results obtained in this second study show considerable improvements in standard evaluation metrics with regard to the new forecasts. The third proposal seeks to offer robust covariance structures for forecasting errors, which expands the set of strategies presented in the literature. The main contribution is to incorporate robust covariance estimates into the MinT (Minimum Trace) reconciliation approach, which minimizes reconciliation errors, offering an estimator with minimum variance.

[pt] A utilização de modelos de inteligência computacional para tarefas de previsão Multi-Step de séries temporais tem apresentado resultados que permitem considerar estes modelos como alternativas viáveis para este tipo de problema. Baseados nos requerimentos computacionais e a melhora de desempenho, recentemente novas áreas de pesquisa têm sido apresentadas na comunidade científica. Este é o caso do Reservoir Computing, que apresenta novos campos de estudo para redes neurais do tipo recorrentes, as quais, no passado, não foram muito utilizados devido à complexidade de treinamento e ao alto custo computacional. Nesta nova área são apresentados modelos como Liquid State Machine e Echo State Networks, que proporcionam um novo entendimento no conceito de processamento dinâmico para redes recorrentes e propõem métodos de treinamento com baixo custo computacional. Neste trabalho determinou-se como foco de pesquisa a otimização de parâmetros globais para o projeto das Echo State Networks. Embora as Echo State Networks sejam objeto de estudo de pesquisadores reconhecidos, ainda apresentam comportamentos desconhecidos, em parte pela sua natureza dinâmica, mas também, pela falta de estudos que aprofundem o entendimento no comportamento dos estados gerados. Utilizando como fundamento o modelo Separation Ratio Graph para análise do desempenho, é proposto um novo modelo, denominado ESN-GA-SRG, que usa como base redes ESN com otimização de parâmetros globais utilizando GA e seleção de topologias para Reservoir por meio de análise de estados empregando SRG. O desempenho deste novo modelo é avaliado na previsão das 11 séries que compõem a versão reduzida do NN3 Forecasting Competition e em 36 séries da competição M3, selecionadas segundo características de periodicidade na amostragem, assimetria, sazonalidade e estacionaridade. O desempenho do modelo ESN-GA-SRG na previsão dessas séries temporais foi superior na maioria dos casos, com significância estatística, quando comparado com outros modelos da literatura. / [en] The use of computational intelligence models for Multi-Step time series prediction tasks has presented results that allow us to consider these models as viable alternatives for this type of problem. Based on computational requirements and performance improvement, new areas of research have recently been presented in the scientific community. This is the case of Reservoir Computing, which presents new fields of study for recurrent-type neural networks, which in the past were not widely used because of training complexity and high computational cost. In this new area are presented models such as Liquid State Machine and Echo State Networks, which provide a new understanding of the concept of dynamic processing for recurring networks and propose methods of training with low computational cost. In this work, we determined the optimization of global parameters for the Echo State Networks project. Although Echo State Networks are the object of study by recognized researchers, they still present unknown behavior, partly due to their dynamic nature, but also due to the lack of studies that deepen behavior understanding of the generated states. Based on the Separation Ratio Graph model for performance analysis, a new model, called ESN-GA-SRG, is proposed, which uses ESN networks with global parameter optimization using GA and selection of topologies for Reservoir through analysis of States employing SRG. The performance of this new model is evaluated to forecast the 11 series that made up the reduced version of the NN3 Forecasting Competition and for 36 series of the M3 competition, selected according to characteristics of periodicity in sampling, asymmetry, seasonality and stationary. The performance of the ESN-GA-SRG model in predicting these time series was superior in most cases, with statistical significance when compared with other models in the literature.

[pt] Tendo em vista mudanças significativas no varejo causadas pelo crescimento de compras online no Brasil, este estudo tem como objetivo facilitar um relevante lead time e um forte grau de assertividade na previsão de demanda do Omnichannel de uma empresa do setor. Com a crescente relevância do Omnichannel, é importante compreender as necessidades dos consumidores tradicionais e digitais, integrar suas experiências e oferecer múltiplos canais de compra. Nesse contexto, a previsão de demanda é crucial para apoiar as decisões estratégicas, táticas e operacionais da organização. A utilização de séries temporais hierárquicas auxilia na precisão das previsões e, portanto, na tomada de decisões, permitindo gerar estimativas coerentes ao longo dos múltiplos níveis hierárquicos. Dessa forma, neste estudo, combinando as metodologias de previsão de séries temporais ETS, ARIMA e SARIMAX, com métodos de reconciliação Bottom-up, Top-down, MinTrace Combinação Ótima (OLS) e MinTrace WLS Struct, doze modelos foram gerados. Baseado nas principais abordagens de séries temporais hierárquicas, com uma sequência de sete passos, os modelos foram comparados, por meio de métricas de avaliação de desempenho, para identificar qual deles melhor se encaixa na série trabalhada. Ao final do estudo, o modelo SARIMAX com Bottom-up se mostrou a combinação mais adequada para a série em análise. A abordagem alcançou um MAPE de 22 por cento no nível mais agregado da hierarquia, reduzindo em cinco pontos percentuais o MAPE original da empresa, além de apresentar a melhor colocação na combinação das métricas comparativamente. / [en] In light of recent changes in retail caused by the growth of online shopping in Brazil, this study aims to enable a substantial lead time and a high degree of accuracy of the Omnichannel demand forecast for a retail company. As Omnichannel success continues to expand, it becomes increasingly important tounderstand the needs of both traditional and digital consumers, integrate their experiences and offer multiple purchase channels. In this context, demand forecasting is crucial for identifying market trends, growth opportunities, potentialstrategies and supporting strategic, tactical and operational decisions. The use of Hierarchical Time Series improves forecasts accuracy and, therefore, assists in decision-making, allowing the development of consistent estimations acrossmultiple hierarchical levels. Thus, this study combines the time series forecast generation methodologies ETS, ARIMA and SARIMAX, with Bottom-up, Top-down, MinTrace Optimal Combination (OLS) and MinTrace WLS Struct reconciliation methods, resulting in the generation of twelve models. Based on the main theories of Hierarchical Time Series and following a 7-steps sequence, the models were compared using performance evaluation metrics to identify the best fit for the investigated series. The research concludes that the SARIMAX model,together with the Bottom-up strategy, proves to be the most appropriate composition for the Hierarchical Time Series under analysis, as it demonstrates the best performance across the evaluation metrics, reaching a MAPE of 22 percent at the most aggregated level of the hierarchy and reducing the original company forecasting MAPE by five percentage points.

[pt] O objetivo do presente trabalho é o desenvolvimento de um algoritmo estatístico de previsão da potência transmitida pela usina geradora termelétrica de Linhares, localizada no Espírito Santo, medida no ponto de entrada da rede da concessionária regional, a ser integrado em plataforma composta por sistema supervisório em tempo real em ambiente MS Windows. Para tal foram comparadas as metodologias de Modelos Arima(p,d,q), regressão usando polinômios ortogonais e técnicas de amortecimento exponencial para identificar a mais adequada para a realização de previsões 5 passos-à-frente. Os dados utilizados são provenientes de observações registradas a cada 5 minutos, contudo, o alvo é produzir estas previsões para observações registradas a cada 5 segundos. Os resíduos estimados do modelo ajustado foram analisados via gráficos de controle para checar a estabilidade do processo. As previsões produzidas serão usadas para subsidiar decisões dos operadores da usina, em tempo real, de forma a evitar a ultrapassagem do limite de 200.000 kW por mais de quinze minutos. / [en] The objective of this study is to develop a statistical algorithm to predict the power transmitted by a thermoelectric power plant in Linhares, located at Espírito Santo state, measured at the entrance of the utility regional grid, which will be integrated to a platform formed by a real time supervisor system developed in MS Windows. To this end we compared Arima (p,d,q), Regression using Orthogonal Polynomials and Exponential Smoothing techniques to identify the best suited approach to make predictions five steps ahead. The data used are observations recorded every 5 minutes, however, the target is to produce these forecasts for observations recorded in every five seconds. The estimated residuals of the fitted model were analysed via control charts to check on the stability of the process. The forecasts produced by this model will be used to help not to exceed the 200.000 kW energy generation upper bound for more than fifteen minutes.

[pt] O comportamento do consumo de energia elétrica do setor industrial tem sido amplamente investigado ao longo dos últimos anos, devido a sua importância econômica, social e ambiental. Mais especificamente, o consumo de eletricidade dos subsetores da indústria brasileira exerce grande importância para o sistema energético brasileiro. Neste contexto, as projeções de longo prazo do seu consumo de energia elétrica para um país ou uma região são informações de grande relevância na tomada de decisão de órgãos e entidades que atuam no setor energético. A abordagem bottom-up determinística tem sido utilizada para obter a previsão de longo prazo em diversas áreas de pesquisa. Neste trabalho, propõe-se uma metodologia que combina a abordagem bottom-up com os modelos lineares hierárquicos para a previsão de longo prazo considerando os cenários de eficiência energética. Além disso, foi utilizada a inferência bayesiana para a estimação dos parâmetros do modelo, permitindo a incorporação de incerteza nessas previsões. Os resultados utilizando os dados de consumo de eletricidade de subsetores da indústria brasileira mostraram que a metodologia proposta consegue capturar a tajetória do consumo de eletricidade, em particular, dos subsetores de papel e celulose, e de metais não-ferrosos e outros de metalurgia. Por exemplo, os intervalos de credibilidade de 95 por cento construídos a partir do modelo estocástico contemplam os valores reais observados nos anos de 2015 e 2016. / [en] The electricity consumption behaviour in the Brazilian industry has been extensively investigated over the past years due to its economic, social and environmental importance. Specifically, the electricity consumption of the subsectors of Brazilian industry have great importance for the Brazilian energy system. In this context, the long-term projections of energy consumption of a country or region are highly relevant information to decision-making of organs and entities operating in the energy sector. The deterministic bottom-up approach has been used for the long-term forecast in several areas of research. In this paper, we propose a methodology that combines the bottom-up approach with hierarchical linear models for long-term forecasting considering energy efficiency scenarios. In addition, Bayesian inference was used to estimate the parameters of the model, allowing the uncertainty incorporation in these forecasts. The results using the electricity consumption data from subsectors of the Brazilian industry showed that the proposed methodology is able to capture the trajectory of their electricity consumption, in particular of the pulp and paper, and of non-ferrous metals and other metallurgical subsectors. For example, the 95 percent credibility intervals constructed from the stochastic model contemplate the actual values observed in the years 2015 and 2016.

Orientador: Celso Pascoli Bottura / Tese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Eletrica e de Computação / Made available in DSpace on 2018-08-04T18:33:31Z (GMT). No. of bitstreams: 1 DelRealTamariz_Annabell_D.pdf: 5783881 bytes, checksum: 21a1a2e27552398a982a934513988a24 (MD5) Previous issue date: 2005 / Resumo: Este estudo apresenta contribuições para modelagem computacional de dados multivariáveis no espaço de estado, tanto com sistemas lineares invariantes como com variantes no tempo. Propomos para modelagem determinística-estocástica de dados ruidosos, o Algoritmo MOESP_AOKI. Propomos, utilizando Redes Neurais Recorrentes multicamadas, algoritmos para resolver a Equação Algébrica de Riccati Discreta bem como a Inequação Algébrica de Riccati Discreta, via Desigualdades Matriciais Lineares. Propomos um esquema de controle adaptativo com Escalonamento de Ganhos, baseado em Redes Neurais, para sistemas multivariáveis discretos variantes no tempo, identificados pelo algoritmo MOESP_VAR, também proposto nesta tese. Em síntese, uma estrutura de controle inteligente para sistemas discretos multivariáveis variantes no tempo, através de uma abordagem que pode ser chamada ILPV (Intelligent Linear Parameter Varying), é proposta e implementada. Um controlador LPV Inteligente, para dados computacionalmente modelados pelo algoritmo MOESP_VAR, é concretizado, implementado e testado com bons resultados / Abstract: This study presents contributions for state space multivariable computational data modelling with discrete time invariant as well as with time varying linear systems. A proposal for Deterministic-Estocastica Modelling of noisy data, MOESP_AOKI Algorithm, is made. We present proposals forsolving the Discrete-Time Algebraic Riccati Equation as well as the associate Linear Matrix Inequalityusing a multilayer Recurrent Neural Network approaches. An Intelligent Linear Parameter Varying(ILPV) control approach for multivariable discrete Linear Time Varying (LTV) systems identified bythe MOESP_VAR algorithm, are both proposed. A gain scheduling adaptive control scheme based on neural networks is designed to tune on-line the optimal controllers. In synthesis, an Intelligent Linear Parameter Varying (ILPV) Control approach for multivariable discrete Linear Time Varying Systems (LTV), identified by the algorithm MOESP_VAR, is proposed. This way an Intelligent LPV Control for multivariable data computationally modeled via the MOESP_VAR algorithm is structured, implemented and tested with good results / Doutorado / Automação / Doutor em Engenharia Elétrica