[pt] As RNA Temporais, em função de sua estrutura, consideram o tempo na sua operação, incorporando memória de curto prazo distribuída na rede em todos os neurônios escondidos e em alguns dos casos nos neurônios de saída. Esta classe de redes é utilizada para representar melhor a natureza temporal dos sistemas dinâmicos. Em contraste, a RNA estática tem uma estrutura apropriada para tarefas de reconhecimento de padrões, classificação e outras de natureza estática ou estacionária tendo sido utilizada com sucesso em diversas aplicações. O objetivo desta tese, portanto foi estudar a teoria e avaliar o desempenho das Redes Neurais Temporais em comparação com as Redes Neurais Estáticas, em aplicações de sistemas dinâmicos. O desenvolvimento desta pesquisa envolveu 3 etapas principais: pesquisa bibliográfica das metodologias desenvolvidas para RNA Temporais; seleção e implementação de modelos para a avaliação destas redes; e estudo de casos. A pesquisa bibliográfica permitiu compila e classificar os principais trabalhos sobre RNA Temporais. Tipicamente, estas redes podem ser classificadas em dois grupos: Redes com Atraso no Tempo e Redes Recorrentes. Para a análise de desempenho, selecionou-se uma redee de cada grupo para implementação. Do primeiro grupo foi selecionada a Rede FIR, onde as sinapses são filtros FIR (Finite-duration Impulse Response) que representam a natureza temporal do problema. A rede FIR foi selecionada por englobar praticamente, todos os outros métodos de sua classe e apresentar um modelo matemático mais formal. Do segundo grupo, considerou-se a rede recorrente de Elman que apresenta realimentação global de cada um dos neurônios escondidos para todos eles. No estudo de casos testou-se o desempenho das redes selecionadas em duas linhas de aplicação: previsão de séries temporais e processamento digital de sinais. No caso de previsão de séries temporais, foram utilizadas séries de consumo de energia elétrica, comparando-se os resultados com os encontrados na literatura a partir de métodos de Holt-Winters, Box & Jenkins e RNA estáticas. No caso da aplicação das RNA em processamento digital de sinais, utilizou-se a filtragem de ruído em sinais de voz onde foram feitas comparações com os resultados apresentados pelo filtro neural convencional, que é uma rede feed-forward multicamada com o algoritmo de retropropagação para o aprendizado. Este trabalho demonstrou na prática que as RNA temporais conseguem capturar as características dos processos temporais de forma mais eficiente que as RNA Estatísticas e outros métodos tradicionais, podendo aprender diretamente o comportamento não estacionário das séries temporais. Os resultados demonstraram que a rede neural FIR e a rede Elman aprendem melhor a complexidade dos sinais de voz. / [en] This dissertation investigates the development of Artificial Neural Network (ANN) in the solution of problems where the patterns presented to the network have a temporary relationship to each other, such as time series forecast and voice processing. Temporary ANN considers the time in its operation, incorporating memory of short period distributed in the network in all the hidden neurons and in the output neurons in some cases. This class of network in better used to represent the temporary nature of the dynamic systems. In contrast, Static ANN has a structure adapted for tasks of pattern recognition, classification and another static or stationary problems, achieving great success in several applications. Considered an universal approximator, Static ANN has also been used in applications of dynamic systems, through some artifices in the input of the network and through statistical data pre- processings. The objective of this work is, therefore to study the theory and evaluate the performance of Temporal ANN, in comparison with Static ANN, in applications of dynamics systems. The development of this research involved 3 main stages: bibliographical research of the methodologies developed for Temporal ANN; selection and implementation of the models for the evaluation of these networks; and case studies. The bibliographical research allowed to compile and to classify the main on Temporal ANN, Typically, these network was selected, where the synapses are filters FIR (Finite-duration Impulse Response) that represent the temporary nature of the problem. The FIR network has been selected since it includes practically all other methods of its class, presenting a more formal mathematical model. On the second group, the Elman recurrent network was considered, that presents global feedback of each neuron in the hidden layer to all other neurons in this layer. In the case studies the network selected have been tested in two application: forecast of time series and digital signal processing. In the case of forecast, result of electric energy consumption time series prediction were compared with the result found in the literature such as Holt-Winters, Box & Jenkins and Static ANN methods. In the case of the application of processing where the comparisons were made with the results presented by the standard neural filter, made of a multilayer feed-forward network with the back propagation learning algorithm. This work showed in practice that Temporal ANN captures the characteristics of the temporary processes in a more efficient way that Static ANN and other methods, being able to learn the non stationary behavior of the temporary series directly. The results showed that the FIR neural network and de Elman network learned better the complexity of the voice signals.

[pt] A humanidade está vivenciando a Quarta Revolução Industrial, caracterizada pela implementação global da internet, utilização de inteligência artificial e automatização dos processos. Este último é de grande importância para indústria química, uma vez que seu desenvolvimento possibilitou um aumento significativo da quantidade de dados armazenados diariamente, o que gerou uma demanda para análise desses dados. Este enorme fluxo de informações tornou o sistema cada vez mais complexo com uma aleatoriedade de falhas no processo que se identificadas poderiam ajudar a melhorar o processo e evitar acidentes. Uma solução ainda pouco comum na indústria, porém com grande potencial para identificar estas falhas de processo com excelência, é a emergente inteligência artificial. Para lidar com esta questão, o presente trabalho realiza a detecção e identificação de falhas em processos industriais através da modelagem de redes neurais artificias. O banco de dados foi obtido através do uso do benchmark de processo Tennessee Eastman, implementado no Software Matlab 2017b, o qual foi projetado para simular uma planta química completa. A enorme quantidade de dados gerados pelo processo tornou possível a simulação em um contexto de Big Data. Para modelagem dos dados, foram tanto aplicadas redes neurais tradicionais feedforward, quanto redes recorrentes: Rede de Elman e Echo State Network. Os resultados apontaram que as redes feedforward e de Elman obtiveram melhores desempenhos analisados pelo coeficiente de determinação (R2). Assim, o primeiro modelo obteve melhor topologia com 37x60x70x1, algoritmo de treinamento trainlm, funções de ativação tansig para as duas camadas intermediárias e camada de saída ativada pela purelin com R2 de 88,69 por cento. O modelo da rede de Elman apresentou sua melhor topologia com 37x45x55x1, algoritmo de treinamento trainlm, funções de ativação tansig para as duas camadas intermediárias e camada de saída ativada pela função purelin com R2 de 83,63 por cento. Foi concluido que as redes analisadas podem ser usadas em controle preditivo de falhas em processos industriais, podendo ser aplicadas em plantas químicas no futuro. / [en] Humanity is experiencing the 4th Industrial Revolution, characterized by the global implementation of the internet, use of artificial intelligence and automation of processes. The last one is of great importance for the chemical industry, since its development allowed a significant increase in the amount of data stored daily, which generated a demand for the analysis of this data. This enormous flow of information made the system more and more complex with a randomness of process faults that if identified could help improve the process and prevent accidents. A solution not yet common in industry, but with great potential to identify these process faults with excellence, is the emergent artificial intelligence. To deal with this issue, the present work performs fault detection and diagnosis in industrial processes through artificial neural networks modeling. The database was obtained using the benchmark of processes Tennessee Eastman, implemented in Matlab 2017b Software, which is designed to simulate a complete chemical plant. The huge amount of data generated by the process made it possible to simulate in a Big Data context. For data modeling, were applied both traditional feedforward neural networks as well as recurrent networks: Elman Network and Echo State Network. The results indicated that the feedforward and Elman networks obtained better performances analyzed by the determination coefficient (R2). Thus, the first model obtained the best topology with 37x60x70x1, trainlm as training algorithm, tansig as activation functions for the two intermediate layers and output layer activated by the purelin function with R2 of 88.69 percent. The Elman network model presented its best topology with 37x45x55x1, trainlm as training algorithm, tansig as activation functions for the two intermediate layers and output layer activated by purelin function with R2 of 83.63 percent. It was concluded that the analyzed networks can be used in predictive control of fault in industrial processes and can be applied in chemical plants in the future.

The thesis concentrates on using recurrent neural networks in computer vision. The theoretical part describes the basic knowledge about artificial neural networks with focus on a recurrent architecture. There are presented some of possible applications of the recurrent neural networks which could be used for a solution of real problems. The practical part concentrates on face recognition from an image sequence using the Elman simple recurrent network. For training there are used the backpropagation and backpropagation through time algorithms.