Neste trabalho apresentamos o desenvolvimento e a realização de um experimento utilizando recursos modernos de processamento de imagens como câmeras CCD, placas de aquisição de imagens e linguagem de programação visual com interface multimídia para observação do fenômeno do Estol dinâmico que tem grande importância do estudo de estabilidade de aeronaves. O fenômeno de Estol ocorre nos aerofólios de aeronaves como nos rotores de helicópteros e asas de aeronaves acrobáticas. Nosso sistema e capaz de detectar dentro de um experimento de um aerofólio oscilando em baixas freqüências a Histerese de sustentação que ocorre neste. Utilizamos também na nossa abordagem redes neurais backpropagation para acomodação dos dados experimentais. Implementamos e descrevemos um hardware mecânico para obtenção de melhores imagens e as funções escritas em Visual Basic que foram utilizadas, com o objetivo de permitir a reprodução do experimento em outros centros de pesquisa. / In this work we present an experiment using modern imaging processing techniques such as CCD cameras, video acquisition boards and visual programming using multimedia interfacing for the observation of the Stall phenomena which has great importance in the airplane stability. The Stall phenomena occurs in arplaine (airfoils) such as in helicopter blades and acrobatic airplane wings. We demonstrated that the developed system is able to detect the lift histeresis in a low frequency oscillating bidimensional airfoil. We also used in our approach backpropagation neural network for the experimental data accomodation. In order to allow replication of the experiment by other institutions, we present a detailed description of the mechanical setup used to obtain the best possible images and of the Visual Basic functions.

Por ser não-invasiva e de baixo custo, a Ecocardiografia tem se tornado uma técnica de diagnóstico muito utilizada para a determinação dos volumes sistólicos e diastólicos do ventrículo esquerdo a fim de se calcular, indiretamente, o volume de ejeção do ventrículo esquerdo, a razão de contração muscular das cavidades cardíacas, a fração de ejeção regional e global, a espessura do miocárdio e a massa ventricular. Para isso, torna-se necessária a detecção das bordas endocárdicas do ventrículo esquerdo, o que é dificultada pelo fato da imagem de Ecocardiografia possuir ruídos que prejudicam sua definição. Apesar de haver várias técnicas de segmentação de imagem, este trabalho propõe detectar as bordas do ventrículo esquerdo de imagens ecocardiográficas utilizando uma rede neural artificial para reconhecer padrões de bordas. A fim de acelerar o processo e facilitar o processamento, uma área retangular centrada dentro da janela acústica do paciente é determinada pelo operador com o uso do \'mouse\' na qual serão realizadas todas as análises e reconhecimentos de borda pela rede neural. Após a marcação dos pontos reconhecidos pela rede neural como bordas, utilizam-se técnicas de gradientes e contorno móvel para se conectar os pontos de maior probabilidade e traçar a borda do ventrículo esquerdo. Esta técnica mostrou-se eficaz quando comparados com as bordas traçadas pelo especialista, sendo um fator importante a prática do operador ao escolher adequadamente a área a ser analisada. Após treinamento com 50 amostras de padrões de \"borda\" e 10 amostras de padrões de \"não borda\", a técnica foi testada em 108 imagens, alcançando resultados com boa precisão e rapidez quando comparamos os resultados na determinação da área do ventrículo esquerdo com outras técnicas citadas na literatura nacional e internacional. / Being non-invasive and having low cost, the echocardiography has been largely applied as diagnostic technique for left ventricle systolic and diastolic volumes determination that indirectly are used to calculate the left ventricle ejection volume, the cardiac cavities muscular contraction, the regional and global ejection fraction, the myocardial thickness, the ventricular mass, etc. For this reason, the detection of the left ventricle endocardial borders become necessary, but hampered by the noise that impairs the echocardiography images definition. In spite of having many image segmentation techniques, this work intend to detect the borders of left ventricle on echocardiography images by using a artificial neural network to recognize border patterns. To accelerate the process and facilitate the procedure, the operator uses the mouse to define a rectangular region inside the acoustic window of the pacient where all analyses and border recognitions will be accomplished. After labeling the recognized points as \'border\', gradient techniques and mobile boundary are used to connect the points of greater probability and delineate the left ventricle border. This technique has proved to be efficient when compared to the borders traced by the specialist. The ability of the operator is important in choosing of the region to be analyzed. After training with 50 samples of \"border\" pattern and 10 samples of \"no-border\" pattern, this technique was tested on 108 images, achieving good results on precision and velocitiy when we compared the calculated left ventricle area with the results of other techniques published on national and international literature.

A adulteração de combustíveis é uma grande preocupação no Brasil. A agência reguladora nacional (ANP) detecta anualmente de 1 a 3% de adulterações nas amostras coletadas, o que é um índice alto considerando o tamanho do mercado brasileiro. As alternativas de adulteração são vastas e muito dinâmicas, por isso os arranjos de sensores baseados no conceito de seletividade global parecem os mais adequados para detectar falsificação de combustíveis. O conceito de seletividade global leva em conta a sensibilidade cruzada de sensores químicos não específicos e o uso de métodos de análise multivariada de dados para encontrar padrões para amostras de diferentes composições químicas. Os sensores químicos podem ser obtidos de uma variedade de materiais sensoativos, cujas respostas elétricas variam de acordo com as propriedades físico-químicas do meio em que se encontra. Os polímeros condutores são excelentes materiais sensoativos, pois sua condutividade elétrica é grandemente influenciada pelas condições ambientais e podem ser processados na forma de filmes finos através várias técnicas. No presente trabalho, filmes de poli(3-metiltiofeno) (PMTh) e poli(3-hexiltiofeno) são depositados por cronopotenciometria e cronoamperometria sobre microeletrodos interdigitados e são caracterizados por espectroscopia de impedância. Os dados são analisados por redes neurais artificiais do tipo multilayer perceptron e bons resultados são obtidos na detecção de adulteração de gasolina. O mesmo estudo também pode ser aplicado na detecção de adulteração de álcool etílico combustível com um desempenho um pouco pior. / Fuel adulteration is a major concern in Brazil. The local governmental agency detects from 1 to 3% of problematic samples yearly, which is a lot considering Brazils market size. The myriad of adulteration possibilities is vast and it is very dynamic, thus array of sensors based on global selectivity concept seems to be more suitable methodology to detect problems in fuel. The global selectivity concept encompasses the cross-sensitivity of non-specific chemical sensors and the use of multivariated data analysis methods as a way to provide fingerprints for samples of different chemical composition. The chemical sensors can employ different types of sensoactive materials, whose electrical responses are dependent on the physicochemical characteristics of the media they get in contact with. Conducting polymers (CP) are per excellence suitable sensoactive materials, since their electrical conductivity is highly influenced by the environmental conditions and they can be easily processed in the thin film form by different techniques. In the present work films of poly(3-methylthiophene) (PMTh) and poly(3-hexylthiophene) (PHTh) are deposited by chronopotenciometry and chronoamperometry onto interdigitated microelectrodes and characterized through Impedance Spectroscopy. This data was analyzed with Multilayer perceptron neural networks and a very good performance is found in gasoline adulteration detection. A less great performance was also achieved in the investigation vehicular ethanol adulteration.

A determinação de cada espécie que compõe uma mistura gasosa tem sido alvo de muitas pesquisas. Existem equipamentos para tal finalidade tais como, cromatografia gasosa, espectroscopia de infravermelho e sensores. A fim de viabilizar uma aplicação de baixo custo para a determinação da concentração de espécies em uma mistura gasosa, neste trabalho, é proposto um aparato para sensoriamento de H₂, CH₄ e CO encontrados em gases combustíveis. O sensoriamento é efetuado por quimioresistores de SnO₂ comercialmente disponíveis. O aparato consiste de um sistema de coleta da mistura gasosa e de sua diluição antes de seguir com a análise feita pelos sensores, obedecendo aos requisitos de segurança contra explosões. O aparato foi submetido a 125 diferentes misturas oriundas da combinação das concentrações de 0, 200, 800, 1500 e 2000 ppm de cada espécie gasosa utilizando o nitrogênio (99,999%) como gás de arraste. As amostragens foram avaliadas sob dois diferentes métodos de recuperação dos sensores: forçado e natural. Através dos resultados experimentais obtidos, foi observado que: a sensibilidade cruzada dos sensores de CO e de CH₄ é bastante elevada enquanto que o sensor de H₂ apresentou maior seletividade e, o método de recuperação natural apresentou melhores resultados em função da estabilidade térmica do sistema. Uma rede neural artificial foi desenvolvida e treinada com o objetivo de superar o problema das sensibilidades cruzadas. Os resultados obtidos pela rede neural são promissores e apresentaram erro máximo de 0,1 % para o hidrogênio, 23% para o metano e 29% para o monóxido de carbono para a obtenção da concentração absoluta de H₂, CH₄ e CO encontrados em misturas com composições conhecidas de antemão. / The achievement of the content of each component of a gas mixture from gasifiers has been a matter of several studies. There are specific techniques for this purpose, such as: gas chromatography, infrared spectroscopy and sensors. In order to allow a low cost application for obtaining the concentrations in a gas mixture, this study proposes a set up for sensing H₂, CH₄ and CO found in fuel gases produced by gasifiers. The sensing is performed by commercially available chemiresistors of SnO₂. The proposed set up collects the gas mixture and dilutes it before proceeding the sensing step, based on the safety requirements to avoid explosion. 125 different gas mixtures were prepared from the combination of 0, 200, 800, 1500 and 2000 ppm of H₂, CH₄ and CO using nitrogen (99.999%) as the carrier gas. The samples were evaluated under two different methods for sensor recovery: forced and natural. Based on the results, it was established that: the cross sensitivity of the CO and CH₄ sensors is too high while the H₂ sensor presents higher selectivity (almost 100%) and the natural recovery method showed improved results because of the better thermal stability of the system. An artificial neural network was developed and trained with the purpose of overcoming the problem of cross sensitivities. The results achieved by means of the neural network are promising and indicated a maximum error of 0.1% for hydrogen, 23% for methane and 29% for carbon monoxide when the absolute concentration of H₂, CH₄ and CO found in the gas mixtures are obtained from well known compositions.

Este trabalho está inserido com contexto da modelagem cartográfica e cartografia de síntese dentro do universo dos sistemas de informações geográficas (SIG). Serão apresentadas três metodologias distintas para obtenção de mapas sínteses através de inferências geográficas, são elas: Operações Pontuais de Soma (OPS), Processo Analitico hierarquico (AHP) e Redes Neurais Artificais (RNA). Aqui serão desenvolvidos e apresentados todos os procedimentos técnicos e metodológicos para a obtenção desses produtos cartográficos através do uso de dois softwares: o SPRING (SIG) e o SNNS (simulador de rede neural artificial). Também será apresentada uma discussão sobre a qualidade dos modelos gerados por essas distintas metodologias e a importância do papel do pesquisador na obtenção desses produtos. / This work is inserted in the context of cartographic modeling and mapping of synthesis within the universe of geographic information systems (GIS). We will present three different methodologies for obtaining maps synthesis by geographic inferences, they are: Operations Locations Sum, Analytic Hierarchy Process and Artificial Neural Network. Here will be developed and presented all the technical and methodological procedures to obtain these cartographic products through the use of two software: SPRING (GIS) and SNNS (artificial neural network simulator). It will also be a discussion of the quality of models generated by these different methodologies and the importance of the researcher in obtaining these products

A área de dinâmica de aeronaves atingiu um alto nível de desenvolvimento e devido à crescente disponibilidade de computadores cada vez mais rápidos e com maior capacidade de processamento; a aplicação de técnicas numéricas de identificação nesta área também teve grande avanço. Este trabalho apresenta uma metodologia para predição de respostas de aeronaves dentro de envelopes de vôo pré-estabelecidos usando redes neurais recorrentes e uma metodologia para estimação das suas derivadas aerodinâmicas usando redes neurais feedforward. Para obter os conjuntos de dados para treinar as redes neurais, foi implementado um modelo não linear de dinâmica de vôo e simulado o comportamento de uma aeronave de combate em nove pontos de um envelope de vôo. Foram usadas as respostas simuladas correspondentes a quatro pontos para treinar a rede neural e depois disto, esta capturou satisfatoriamente a dinâmica da aeronave, identificando com grande sucesso as respostas do movimento longitudinal da aeronave por todo o envelope de vôo considerado. Após a simulação e identificação das respostas da aeronave dentro do envelope de vôo, é apresentada a resolução do problema inverso, ou seja, usando velocidades escalares e angulares da aeronave juntamente com seus dados geométricos como entradas para a rede neural feedforward, é obtido um modelo neural estimador de derivadas aerodinâmicas. Para mostrar a capacidade deste modelo neural estimador, este é aplicado na estimação das derivadas da aeronave simulada e também aplicado na estimação das derivadas aerodinâmicas da aeronave militar a jato Xavante AT-26 da Força Aérea Brasileira. Estas metodologias propostas reduzem custo de obtenção das derivadas aerodinâmicas e mostram a eficácia das redes neurais em estimar as respostas de aeronaves dentre de um envelope de vôo pré-definido. / The area of aircraft dynamics has reached a high level of development and due to the increasing availability of computers continuously faster and with bigger processing capacity, the application of numerical identification techniques in this area also had great advance. This work presents two methodologies, one for prediction of aircraft responses within a pre-established flight envelope using recurrent neural networks and another one for estimation of its aerodynamic derivatives using feedforward neural networks. To get data sets to train the neural networks, a combat aircraft flight dynamics non-linear model was implemented and simulated in nine points of the flight envelope to obtain its behavior. The simulated responses corresponding to a four points of the flight envelope were used to train the neural network and after that, it was possible to verify that this net satisfactorily captured the dynamics of the aircraft, identifying with great success the longitudinal motion responses of the aircraft at all the considered flight envelope positions. After the simulation and identification of the aircraft responses inside the flight envelope, the solution of the inverse problem is presented, i.e., using scalar and angular aircraft velocities together with its geometric data as input to the feedforward neural network, a neural estimator model of aerodynamic derivatives is obtained. In order to show the capacity of this neural estimator model, this model is applied to the estimation of the derivatives of the simulated aircraft as well as to the estimation of the aerodynamic derivatives of a brazilian air force military jet aircraft, the Xavante AT-26. These proposed methodologies reduce the cost of obtaining the aerodynamic derivatives and show the estimation effectiveness of the neural networks to estimate the responses of an aircraft inside a pre-defined flight envelope.

Orientadores: Takaaki Ohishi, Ricardo Menezes Salgado / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação / Made available in DSpace on 2018-08-24T15:46:34Z (GMT). No. of bitstreams: 1 Barreto_MateusNeves_M.pdf: 6008302 bytes, checksum: ae210360a5363404761ca9b3566732ab (MD5) Previous issue date: 2014 / Resumo: O Sistema Elétrico Brasileiro abastece cerca de 97% da demanda de energia nacional. Frente ao extenso território brasileiro, necessita-se de um sistema de transmissão de larga escala, devido as grandes distâncias entre as gerações, das hidroelétricas, e a principal concentração da demanda, no Sudeste brasileiro. Para garantir segurança e economia da operação do Sistema Elétrico Brasileiro são realizadas análises da operação do sistema de geração e transmissão frente às condições de cargas críticas. A ideia é preparar o sistema para suportar as condições mais severas de carga. A curva de carga crítica é calculada para cada mês com discretização horária (ou menor). A mesma é composta pela carga mínima observada num dado mês no período da primeira a oitava hora, e pela carga máxima observada no mês para as horas restantes. Utilizando históricos de demanda pertencentes aos agentes do Setor Elétrico Brasil, foi possível criar um histórico de cinco anos, 60 meses, de curvas de carga crítica. Esses dados foram disponibilizados pelo Operador Nacional do Sistema Elétrico Brasileiro ¿ ONS, em conjunto com o desenvolvimento de um projeto de pesquisa, através de um sistema de suporte a decisão nomeado SysPrev. Nesta dissertação são propostos três modelos para realizar a previsão da curva de carga crítica. Dois modelos utilizam Redes Neurais Artificiais e um modelo utiliza Suavização Exponencial de Holt-Winters (HW). Os resultados obtidos por todos os modelos foram satisfatórios. O modelo de Suavização Exponencial se destacou perante os outros dois modelos atingindo erros médios absolutos próximos a 3%. Esses resultados justificam-se devido às séries históricas de curvas de carga crítica possuírem características de tendência e sazonalidade e o modelo de HW ser projetado especificamente para séries temporais com estas características / Abstract: The Brazilian Power System supplies around 97 % of national energy demand. By reason of the broad Brazilian territory, it requires a transmission system of large scale, due to the large distances between the generations of hydropower and the main concentration of demand that stay in southeastern of Brazil. To ensure security and economy of operation of the Brazilian Electric System are performed analyzes the operation of generation and transmission system due to the conditions of critical loads. The idea is to prepare the system to resist the harshest load conditions. The curve of critical load is calculated for each month with hourly discretization (or less). It's made with the minimum load observed in a given month between the first to eighth hour, and to maximum load observed in the month for the rest of hours. Using the demand agents¿ history belonging to the Brazilian Power System, it was possible to create a record of five years, 60 months, of curves of critical load. These datas were available by the National Operator of the Brazilian Power System as part of the development of a research project, made available by a decision support system named SysPrev. This dissertation proposed three models to perform the forecasting of the critical load curve. Two models using Artificial Neural Networks and one model using Exponential Smoothing Holt-Winters (HW). The results obtained by all the models were satisfactory. The exponential smoothing model stood out against the other two models, this having absolute average errors near 3%. These results are justified due to the historical series of curves of critical load has characteristics of trend and seasonality and the HW model is specifically designed for time series with such characteristics / Mestrado / Engenharia de Computação / Mestre em Engenharia Elétrica

Orientador: Marconi Kolm Madrid / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação / Made available in DSpace on 2018-08-25T07:22:46Z (GMT). No. of bitstreams: 1 FernandesJunior_FranciscoErivaldo_M.pdf: 11967904 bytes, checksum: 6dbb5a0debdb45fdcc389ebc6c941205 (MD5) Previous issue date: 2014 / Resumo: No presente trabalho é mostrado o estudo e a implementação das Redes Neurais Artificiais, RNA, e Algoritmos Genéticos, AG, para resolução da cinemática inversa de um manipulador robótico com 5 graus de liberdade. Todo manipulador robótico é construído com o objetivo de se realize uma determinada tarefa. Para alcançar esse objetivo é necessário o estudo e o emprego dos seus modelos cinemáticos. A descrição matemática do movimento espacial realizado por cada elo do robô é conhecida como Cinemática que é o estudo do movimento de um corpo ou um sistema de corpos rígidos em relação a um referencial cartesiano fixo ignorando as forças e os momentos que causam tal movimento. Existem dois problemas ao se estudar a cinemática de um robô: o problema da cinemática direta e o problema da cinemática inversa. A cinemática inversa é um ramo com grandes desafios devido as equações não serem lineares, dificultando a determinação de soluções de uma forma fechada. Portanto, diversos pesquisadores, ao longo dos anos, tentam resolver esse problema evitando o uso de inversões de equações. Nesse sentido, o uso das redes neurais artificiais e dos algoritmos genéticos se mostram alternativas atraentes. As soluções encontradas no presente trabalho foram aplicadas a um robô educacional com 5 graus de liberdade composto de seis servomotores controlado por um microcontrolador Arduino Uno. O software MATLAB foi utilizado como ferramenta para o desenvolvimento e a aplicação desses dois métodos / Abstract: The present work shows the study and implementation of Artificial Neural Networks, ANN, and Genetic Algorithms, AG, to solve the inverse kinematics of a robotic manipulator with 5 degree of freedom. Every robotic manipulator is constructed with the goal of perform a specific task. To reach this goal, the robot needs to track a path, and for that it is necessary the study of its kinematics. The math description of the spatial movement performed by its links is known as kinematics that is the study of the movement of a rigid body or system of rigid bodies in relation to a fixed cartesian reference disregarding the forces and momentums that cause the movement. There are two problems when studying the kinematics: the forward kinematics problem and the inverse kinematics problem. The inverse kinematics is a field of study with challenges due the fact that the equations are not linear which become a problem to obtain closed form solutions. Therefore, many scientists try to solve this problem with methods that do not use equation inversions. In this sense, the use of artificial neural networks and genetic algorithms prove to be interesting alternatives for this purpose. The solutions found in this work were applied to an educational robot platform with 5 degree of freedom and six servomotors controlled by an Arduino Uno microcontroller. The MATLAB software was used as a tool to develop and application of these two methods / Mestrado / Automação / Mestre em Engenharia Elétrica

Orientadores: Fernando Antonio Campos Gomide, Marcos Eduardo Ribeiro do Valle Mesquita / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação / Made available in DSpace on 2018-08-26T08:06:32Z (GMT). No. of bitstreams: 1 Rosa_RaulArthurFernandes_M.pdf: 8750754 bytes, checksum: 0535142e4de0e75e311aea59a977386e (MD5) Previous issue date: 2014 / Resumo: Esta dissertação estuda uma classe de redes neurais evolutivas para modelagem de sistemas a partir de um fluxo de dados. Esta classe é caracterizada por redes evolutivas com estruturas feedforward e uma camada intermediária cujo número de neurônios é variável e determinado durante a modelagem. A aprendizagem consiste em utilizar métodos de agrupamento para estimar o número de neurônios na camada intermediária e algoritmos de aprendizagem extrema para determinar os pesos da camada intermediária e de saída da rede. Neste caso, as redes neurais são chamadas de redes neurais evolutivas. Um caso particular de redes evolutivas é quando o número de neurônios da camada intermediária é determinado a priori, mantido fixo, e somente os pesos da camada intermediária e de saída da rede são atualizados de acordo com dados de entrada. Os algoritmos de agrupamento e de aprendizagem extrema que compõem os métodos evolutivos são recursivos, pois a aprendizagem ocorre de acordo com o processamento de um fluxo de dados. Em particular, duas redes neurais evolutivas são propostas neste trabalho. A primeira é uma rede neural nebulosa híbrida evolutiva. Os neurônios da camada intermediária desta rede são unineurônios, neurônios nebulosos com processamento sináptico realizado por uninormas. Os neurônios da camada de saída são sigmoidais. Um algoritmo recursivo de agrupamento baseado em densidade, chamado de nuvem, é utilizado para particionar o espaço de entrada-saída do sistema e estimar o número de neurônios da camada intermediária da rede; a cada nuvem corresponde um neurônio. Os pesos da rede neural nebulosa híbrida são determinados utilizando a máquina de aprendizado extremo com o algoritmo quadrados mínimos recursivo ponderado. O segundo tipo de rede proposto neste trabalho é uma rede neural multicamada evolutiva com neurônios sigmoidais na camada intermediária e de saída. Similarmente à rede híbrida, nuvens particionam o espaço de entrada-saída do sistema e são utilizadas para estimar o número de neurônios da camada intermediária. O algoritmo para determinar os pesos da rede é a mesma versão recursiva da máquina de aprendizado extremo. Além das redes neurais evolutivas, sugere-se também uma variação da rede adaptativa OS-ELM (online sequential extreme learning machine) mantendo o número de neurônios na camada intermediária fixo e introduzindo neurônios sigmoidais na camada de saída. Neste caso, a aprendizagem usa o algoritmo dos quadrados mínimos recursivo ponderado no aprendizado extremo. As redes foram analisadas utilizando dois benchmarks clássicos: identificação de forno a gás com o conjunto de dados de Box-Jenkins e previsão de série temporal caótica de Mackey-Glass. Dados sintéticos foram gerados para analisar as redes neurais na modelagem de sistemas com parâmetros e estrutura variantes no tempo (concept drif e concept shift). Os desempenhos foram quantificados usando a raiz quadrada do erro quadrado médio e avaliados com o teste estatístico de Deibold-Mariano. Os desempenhos das redes neurais evolutivas e da rede adaptativa foram comparados com os desempenhos da rede neural com aprendizagem extrema e dos métodos de modelagem evolutivos representativos do estado da arte. Os resultados mostram que as redes neurais evolutivas sugeridas neste trabalho são competitivas e têm desempenhos similares ou superiores às abordagens evolutivas propostas na literatura / Abstract: Abstract: This dissertation studies a class of evolving neural networks for system modeling from data streams. The class encompasses single hidden layer feedforward neural networks with variable and online de nition of the number of hidden neurons. Evolving neural network learning uses clustering methods to estimate the number of hidden neurons simultaneously with extreme learning algorithms to compute the weights of the hidden and output layers. A particular case is when the evolving network keeps the number of hidden neurons xed. In this case, the number of hidden neurons is found a priori, and the hidden and output layer weights updated as data are input. Clustering and extreme learning algorithms are recursive. Therefore, the learning process may occur online or real-time using data stream as input. Two evolving neural networks are suggested in this dissertation. The rst is na evolving hybrid fuzzy neural network with unineurons in the hidden layer. Unineurons are fuzzy neurons whose synaptic processing is performed using uninorms. The output neurons are sigmoidals. A recursive clustering algorithm based on density and data clouds is used to granulate the input-output space, and to estimate the number of hidden neurons of the network. Each cloud corresponds to a hidden neuron. The weights of the hybrid fuzzy neural network are found using the extreme learning machine and the weighted recursive least squares algorithm. The second network is an evolving multilayer neural network with sigmoidal hidden and output neurons. Like the hybrid neural fuzzy network, clouds granulate the input-output space and gives the number of hidden neurons. The algorithm to compute the network weights is the same recursive version of the extreme learning machine. A variation of the adaptive OS-ELM (online sequential extreme learning machine) network is also suggested. Similarly as the original, the new OS-ELM xes the number of hidden neurons, but uses sigmoidal instead of linear neurons in the output layer. The new OS-ELM also uses weighted recursive least square.The hybrid and neural networks were evaluated using two classic benchmarks: the gas furnace identi cation using the Box-Jenkins data, and forecasting of the chaotic Mackey-Glass time series. Synthetic data were produced to evaluate the neural networks when modeling systems with concept drift and concept shift. This a modeling circumstance in which system structure and parameters change simultaneously. Evaluation was done using the root mean square error and the Deibold-Mariano statistical test. The performance of the evolving and adaptive neural networks was compared against neural network with extreme learning, and evolving modeling methods representative of the current state of the art. The results show that the evolving neural networks and the adaptive network suggested in this dissertation are competitive and have similar or superior performance than the evolving approaches proposed in the literature / Mestrado / Engenharia de Computação / Mestre em Engenharia Elétrica

Orientador: Fernando José Von Zuben / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação / Made available in DSpace on 2018-08-26T07:59:40Z (GMT). No. of bitstreams: 1 Kulaif_AndreaCarolinaPeres_M.pdf: 1163458 bytes, checksum: ce006fc65c25e72acbf0a2efeb2a3450 (MD5) Previous issue date: 2014 / Resumo: Máquinas de Aprendizado Extremo (ELMs, do inglês Extreme Learning Machines) são redes neurais com uma camada de entrada, uma camada intermediária e uma camada de saída. Sua arquitetura é equivalente à do perceptron de múltiplas camadas (MLP, do inglês Multilayer Perceptron), mas os pesos e o número de neurônios da camada intermediária em ELMs são definidos arbitrariamente e a priori, enquanto os pesos da camada de saída são os únicos parâmetros ajustáveis durante o processo de treinamento supervisionado. O ajuste desses pesos da camada de saída leva a um problema de otimização linear, responsável pelo fato de o treinamento de uma ELM ser ao menos uma ordem de magnitude mais rápido do que o treinamento de uma MLP. No entanto, o desempenho das ELMs é bastante influenciado pelo grau de regularização adotado no ajuste dos pesos da camada de saída. Além disso, por serem definidos de forma arbitrária e não estarem susceptíveis a treinamento, geralmente opera-se com um número elevado de neurônios na camada intermediária, sendo muito comum a presença de neurônios redundantes e pouco funcionais, de modo que sua extração não compromete o desempenho da rede neural como um todo. Em vista desse cenário, esta dissertação apresenta contribuições, junto a ELMs voltadas para tarefas de regressão, em duas frentes principais: (1) Definição de um grau apropriado de regularização no cálculo dos pesos da camada de saída de ELMs; e (2) Ajuste do número de neurônios na camada intermediária, pela extração automática de neurônios redundantes ou pouco funcionais. Mostra-se neste trabalho que, diferentemente do que é praticado na literatura, o grau de regularização mais indicado para uma ELM não varia apenas entre problemas de regressão distintos, mas dentro do mesmo problema de regressão, ainda que se mantenha constante o número de neurônios na camada intermediária. Uma vez detectada a necessidade do ajuste do grau de regularização a cada configuração de ELM, propõe-se aqui uma busca unidimensional mais refinada do que aquela já existente na literatura. Quanto à proposta apresentada para definição do número de neurônios na camada intermediária, faz-se uma análise do espaço de características gerado pelos neurônios dessa camada e aplica-se poda de neurônios que pouco ou nada contribuem para gerar este espaço de características. Além disso, propõe-se o emprego de LASSO e Elastic Net como técnicas de regularização, as quais promovem poda adicional de neurônios que não contribuem para a tarefa de regressão. Para as duas contribuições do trabalho, são apresentados resultados experimentais e comparações com outras propostas da literatura. Há um aumento de custo computacional com as propostas deste trabalho, mas é expressivo o ganho em desempenho em alguns cenários / Abstract: Extreme learning machines are neural networks composed of one input layer, one hidden layer, and one output layer. Their architecture is equivalent to the one of the multilayer perceptron, but the weights and the number of hidden neurons in ELMs are defined a priori and in an arbitrary manner, while the weights at the output layer are the only adjustable parameters during supervised learning. The adjustment of the weights at the output layer leads to a linear optimization problem, responsible for the fact that the training of an ELM be at least one order of magnitude faster than training an MLP. However, the performance of ELMs is greatly influenced by the regularization degree adopted when setting the weights of the output layer. Moreover, by being arbitrarily defined and not susceptible to learning, it is usual to adopt a large number of neurons in the hidden layer, thus promoting the presence of redundant and poorly functional neurons, so that their extraction does not compromise the neural network performance as a whole. Under those circumstances, this dissertation presents contributions to ELMs devoted to regression problems on two main fronts: (1) Definition of a proper degree of regularization when computing the weights at the output layer of ELMs; and (2) Adjustment of the number of neurons at the hidden layer, by the automatic extraction of redundant or poorly functional neurons. It is shown in this work that, different from what is done in the literature, the most suitable degree of regularization for an ELM varies not only among different regression problems, but within the same regression problem and even if it is kept constant the number of neurons at the hidden layer. Once detected the need for adjustment of the degree of regularization for each ELM configuration, it is proposed here a one-dimensional search endowed with more refined steps than that available in the literature. Regarding the proposal to properly define the number of neurons in the hidden layer, an analysis of the feature space generated by neurons in the hidden layer is performed and neurons with no or even a shallow contribution to span the feature space are pruned. Furthermore, the use of LASSO and Elastic Net as regularization techniques are proposed here, which promotes additional pruning of neurons that do not contribute to the regression task. For both contributions of this work, experimental results and comparisons with other proposals in the literature are presented. There is an increase in the computational cost with the proposals of this work, but it is significant the gain in performance in some scenarios / Mestrado / Engenharia de Computação / Mestra em Engenharia Elétrica