Esta dissertação de mestrado tem por objetivo analisar os conjuntos-K, uma hierarquia de redes neurais biologicamente mais plausíveis, e aplicá-los ao problema de classificação de imagética motora através do eletroencefalograma (EEG). A imagética motora consiste no ato de processar um movimento motor da memória humana de longo tempo para a memória de curto prazo. A imagética motora deixa um rastro no sinal do EEG que torna possível a identificação e classificação dos diferentes movimentos motores. A tarefa de classificação de imagética motora através do EEG é reconhecida como complexa devido à não linearidade e quantidade de ruído da série temporal do EEG e da pequena quantidade de dados disponíveis para aprendizagem. Os conjuntos-K são um modelo conexionista que simula o comportamento dinâmico e caótico de populações de neurônios do cérebro e foram modelados com base em observações do sistema olfatório feitas por Walter Freeman. Os conjuntos-K já foram aplicados em diversos domínios de classificação diferentes, incluindo EEG, tendo demonstrado bons resultados. Devido às características da classificação de imagética motora, levantou-se a hipótese de que a aplicação dos conjuntos-K na tarefa pudesse prover bons resultados. Um simulador para os conjuntos-K foi construído para a realização dos experimentos. Não foi possível validar a hipótese levantada no trabalho, dado que os resultados dos experimentos realizados com conjuntos-K e imagética motora não apresentaram melhorias significativas para a tarefa nas comparações realizadas. / This dissertation aims to examine the K-sets, a hierarchy of biologically plausible neural networks, and apply them to the problem of motor imagery classification through electroencephalogram (EEG). Motor imagery is the act of processing a motor movement from long-term to short-term memory. Motor imagery leaves a trail in the EEG signal, which makes possible the identification and classification of different motor movements. Motor imagery classification is a complex problem due to non-linearity of the EEG time series, low signal-to-noise ratio, and the small amount of data typically available for learning. K-sets are a connectionist model that simulates the dynamic and chaotic behavior of populations of neurons in the brain, modeled based on observations of the olfactory system by Walter Freeman. K-sets have already been used in several different classification domains, including EEG, showing good results. Due to the characteristics of motor imagery classification, a hypothesis that the application of K-sets in the task could provide good results was raised. A simulator for K-sets was created for the experiments. Unfortunately, the hypothesis could not be validated, as the results of the conducted experiments with K-sets and motor imagery showed no significant improvements in comparison in the task performed.

A cultura de cana-de-açúcar (Saccharum Officinarum) tem presença marcante na história do Brasil, desde a colonização. Em seu processo industrial, são obtidos os seguintes produtos: açúcar, álcool (anidro e hidratado); e seus principais subprodutos são: bagaço - utilizado para geração de energia - e vinhaça - reaplicada na lavoura como adubo. O uso da vinhaça na lavoura recebe o nome de fertirrigação, pois este subproduto é muito rico em minerais como: potássio, sódio, cálcio e magnésio contêm grande carga biológica e possui 93% de água em sua composição. No entanto, sua aplicação indiscriminada pode causar vários danos ao meio ambiente e à lavoura. Esta pesquisa visa a contribuir tecnicamente para o monitoramento do íon de potássio controlado pela Norma Técnica da Companhia Ambiental do Estado de São Paulo (CETESB) - P4.231 (Versão Janeiro/2005). O método proposto viabiliza a avaliação da concentração de potássio na vinhaça in natura diretamente na saída da destilaria. Para isso utilizaram-se redes neurais artificiais, mais especificamente as redes perceptron multicamadas, como aproximador universal de funções. Utilizam-se, como referência, dados de análises laboratoriais de coletas realizadas durante dois meses na Usina Ipiranga de Descalvado - SP. Os resultados apresentaram margem de erro menor que os aparelhos convencionais, mostrando, assim, sua capacidade de realizar a função de analisador químico. No entanto tal margem foi calculada sobre o erro dos aparelhos, ou seja, se somados ambos os erros - do equipamento e da rede - a metodologia apresentaria um erro maior. / The cultivation of sugar cane (Saccharum officinarum) has significant presence in Brazil\'s history, from colonization. In its industrial process, are obtained the following products: sugar, ethanol (anhydrous and hydrated), and its main products are: marc - used for power generation - and stillage - re-applied as fertilizer in farming. The use of vinasse on the farm is called fertigation, because this by-product is very rich in minerals such as potassium, sodium, calcium and magnesium containing high biological load and has 93% water in its composition. However, its indiscriminate application can cause extensive damage to the environment and agriculture. This research aims to contribute technically to the monitoring of potassium ion controlled with the Standard Environmental Company of São Paulo (CETESB) - P4.231 (Version January 2005). The proposed method enables the assessment of the concentration of potassium in the stillage in natura directly in the output of the distillery. For this we used artificial neural networks, especially the multilayer perceptron networks, such as universal approximator of functions. Are used as reference data for laboratory analysis of samples collected during two months of Descalvado at Usina Ipiranga - SP. The results showed a margin of error smaller than traditional braces, thus showing its ability to perform the function of chemistry analyzer. However this was calculated on the error of the apparatus, ie, if both errors combined - the equipment and the network - the methodology would present a greater mistake.

Esta tese propõe a utilização de sistemas inteligentes para, automaticamente, realizar diagnósticos e localizar falhas na instalação e na operação de redes de comunicação industrial que utilizam o protocolo Profibus DP. Para tais tarefas, uma série de análises é realizada a partir dos sinais transmitidos pela camada física, de telegramas transmitidos pela camada de enlace e de funções da camada de usuário do protocolo Profibus DP. Para a análise da camada física, amostras dos sinais elétricos transmitidos são processadas e apresentadas a algumas Redes Neurais Artificiais para que sejam classificadas de acordo com a sua forma de onda. Caso estes sinais apresentem alguma deformação, o sistema indica uma provável causa para o problema, afinal, os problemas das redes Profibus originam padrões específicos e característicos impressos nas formas de onda do sinal digital. Ainda através da análise das amostras dos sinais oriundos da camada física, algumas fontes de problemas são detectadas a partir da análise do nível médio de tensão do sinal que um determinado dispositivo está transmitindo. Tal análise é realizada a partir de um Sistema Especialista. Também utilizando Sistemas Especialistas, os telegramas transmitidos pela camada de enlace deste protocolo são analisados e a partir destes, falhas de configuração são detectadas. Por fim, é proposto um sistema nebuloso responsável por indicar ao usuário um valor próximo ao ideal para a variável de tempo denominada target rotation time. A proposta foi testada e validada a partir de dados obtidos de redes Profibus estabelecidas em laboratório e de alguns dados sintéticos originados por software. Os resultados obtidos foram suficientes para a comprovação da tese de que sistemas computacionais inteligentes podem contribuir de maneira efetiva no diagnóstico de problemas em redes Profibus DP e até mesmo em outros tipos de rede. / This thesis proposes the use of intelligent systems to automatically perform diagnostics and locate faults during the installation and operation of industrial communication networks that use the Profibus DP protocol. For such tasks, some analyzes are performed from the signals transmitted by the physical layer, from telegrams transmitted by the data link layer and from some user layer functions of the Profibus DP protocol. For physical layer analysis, the transmitted electrical signals samples are processed and submitted for some artificial neural networks that classifies each signal according to its waveshape. If these signals have some deformation, the system indicates a probable cause for the problem, after all, the Profibus problems originate specific and characteristic patterns printed on the digital signal waveform. Still analyzing the physical layer signal samples, some problems sources are detected from the signal voltage analysis. Such analysis is performed from an Expert System. Also using expert systems, the data link layer telegrams are analyzed and configuration faults are detected. Finally, it is proposed a fuzzy system responsible for specify a value close to ideal for the target rotation time variable. The proposal has been tested and validated with data from Profibus networks established in laboratory. Besides, some synthetic data were generated by software. The results were sufficient to prove the thesis that intelligent computational systems can contribute effectively to diagnose problems in Profibus DP networks and even in other types of networks.

Um desafio recorrente em processos produtivos é o desenvolvimento de sistemas de monitoração e diagnóstico. Esses sistemas ajudam na detecção de mudanças inesperadas e interrupções, prevenindo perdas e mitigando riscos. Redes Neurais Artificiais (RNA) têm sido largamente utilizadas na criação de sistemas de monitoração. Normalmente as RNA utilizadas para resolver este tipo de problema são criadas levando-se em conta apenas parâmetros como o número de entradas, saídas e quantidade de neurônios nas camadas escondidas. Assim, as redes resultantes geralmente possuem uma configuração onde há uma total conexão entre os neurônios de uma camada e os da camada seguinte, sem que haja melhorias em sua topologia. Este trabalho utiliza o algoritmo de Otimização por Colônia de Formigas (OCF) para criar redes neurais otimizadas. O algoritmo de busca OCF utiliza a técnica de retropropagação de erros para otimizar a topologia da rede neural sugerindo as melhores conexões entre os neurônios. A RNA resultante foi aplicada para monitorar variáveis do reator de pesquisas IEA-R1 do IPEN. Os resultados obtidos mostram que o algoritmo desenvolvido é capaz de melhorar o desempenho do modelo que estima o valor de variáveis do reator. Em testes com diferentes números de neurônios na camada escondida, utilizando como comparativos o erro quadrático médio, o erro absoluto médio e o coeficiente de correlação, o desempenho da RNA otimizada foi igual ou superior ao da tradicional. / A recurring challenge in production processes is the development of monitoring and diagnosis systems. Those systems help on detecting unexpected changes and interruptions, preventing losses and mitigating risks. Artificial Neural Networks (ANN) have been extensively used in creating monitoring systems. Usually the ANN used to solve this kind of problem are created by taking into account only parameters as the number of inputs, outputs, and number of neurons in the hidden layers. This way, the result networks are generally fully connected and have no improvements in its topology. This work uses an Ant Colony Optimization (ACO) algorithm to create a tuned neural networks. The ACO search algorithm uses Back Error Propagation (BP) to optimize the network topology by suggesting the best neuron connections. The outcome ANN was applied to monitoring the IEA-R1 research reactor at IPEN. The results show that the algorithm is able to improve the performance of the model which estimates the values of the reactor variables. In tests with different numbers of neurons in the hidden layer, using as comparison the mean squared error, the mean absolute error, and the correlation coefficient, the performance of the optimized ANN proved equal or better than the equivalent traditional neural networks.

Neste trabalho, é apresentado e discutido um novo modelo para proteção de Linhas de Transmissão. O sistema proposto executa, individualmente, as etapas tradicionais da filosofia de proteção de distância: detecção, classificação e localização. Este modelo emprega Estatísticas de Ordem Superior (EOS) como ferramenta de extração de características, para posterior aplicação das Redes Neurais Artificiais (RNAs). As RNAs são responsáveis pelas tomadas de decisões do sistema, no sentido de identificar a ocorrência da falta e o tipo da mesma, além de localizar a falta no que tange às zonas de proteção consideradas. O processamento com tais estatísticas é responsável pela transformação dos dados para um domínio onde as diferentes faltas são evidenciadas através de agrupamentos de dados (padrões). O banco de dados disponível com sinais elétricos de LTs em condições de falta é utilizado para cálculo das estatísticas e o posterior treinamento supervisionado (e validação) das redes. A junção das etapas de proteção em um único modelo permitiu o desenvolvimento de um protótipo de relé, sendo executada uma bateria extensiva de testes, com as mais diversas condições de faltas possíveis. Apesar de operar apenas com sinais de corrente, o método proposto alcançou resultados que, em comparação com a técnica tradicional de proteção de distância, baseada na impedância aparente, aumenta consideravelmente o desempenho da proteção de LTs. Especialmente para as faltas monofásicas, de ocorrência mais comum, o desempenho obtido com o algoritmo proposto é largamente superior ao obtido com um relé de distância tradicional normalmente empregado em proteção de LTs, evidenciando a relevância da técnica empregada em aplicações de proteção. / A novel method of Transmission Lines (TLs) protection is presented and discussed in this work. The proposed algorithm performs the traditional steps of distance relaying, such as: fault detection, classification and location. The new method applies the Higher Order Statistics (HOS), also known as cumulants, as a tool for feature extraction in order to apply Artificial Neural Networks (ANN) for pattern classification. These networks are responsible for the processing of information, identifying a possible fault condition, the type of fault and, finally, its location in terms of fault zones considered for the problem. The application of HOS in a protection scheme is responsible for the transformation of electrical data, such as current signals, to a different domain where the different types of faults are highlighted by different classes of samples. The available database was obtained by simulating an Electric Power System and it is used for computing the statistics and training/validating the distinct neural networks of each step of the distance protection. A relay prototype is obtained by combining these steps in a synchronized operation. This prototype allowed the execution of extensive tests, simulating the operation of a protective system in real-time. Despite the use of currents signals only, the proposed method provided efficient protection for the EPS under study. In fact, comparing the results with a traditional method applied to distance protection, based on apparent impedance, an improvement of the protection performance was demonstrated. Especially for faults involving one phase and the ground, the most common in power systems, the results of the new methodology was significantly superior to that of the conventional relay. It can be concluded that the technique presents a high relevance for applications in transmission line protection.

Dentro do cenário de projeto de circuitos elétricos orientados para o processamento de redes neurais artificiais, este trabalho se concentra no estudo da implementação de Mapas Auto-organizáveis (SOM, do inglês, Self-Organizing Maps) em chips FPGA. A pesquisa aqui realizada busca, fundamentalmente, responder à seguinte pergunta: como devem ser projetadas as arquiteturas computacionais de cada etapa de processamento do SOM para serem adequadamente executadas em FPGA? De forma mais detalhada, o trabalho investiga as possibilidades que diferentes circuitos de computação do SOM oferecem em relação à velocidade de processamento, ao consumo de recursos do FPGA e à consistência com o formalismo teórico que fundamenta esse modelo de rede neural. Tal objetivo de pesquisa é motivado por possibilitar o desenvolvimento de sistemas de processamento neural que exibam as características positivas típicas de implementações diretas em hardware, como o processamento embarcado e a aceleração computacional. CONTRIBUIÇÕES PRINCIPAIS No decorrer da investigação de tais questões, o presente trabalho gerou contribuições com diferentes graus de impacto. A contribuição mais essencial do ponto de vista de estruturação do restante da pesquisa é a fundamentação teórica das propriedades de computação do SOM em hardware. Tal fundamentação é importante pois permitiu a construção dos alicerces necessários para o estudo das diferentes arquiteturas de circuitos exploradas neste trabalho, de forma que estas permanecessem consistentes com as premissas teóricas que certificam o modelo de computação neural estudado. Outra contribuição avaliada como de grande impacto, e que se consolida como um objeto gerado pela pesquisa, é a proposta de um circuito processador para SOM em FPGA que possui o estado-da-arte em velocidade de computação, medido em CUPS (Connections Updated Per Second). Tal processador permite atingir 52,67 GCUPS, durante a fase de treinamento do SOM, um ganho de aproximadamente 100% em relação aos trabalhos publicados na literatura. A aceleração possibilitada pela exploração de processamentos paralelos em FPGA, desenvolvida neste trabalho, é de três a quatro ordens de grandeza em relação a execuções em software do SOM com a mesma configuração. A última contribuição considerada como de grande impacto é a caracterização da execução do SOM em FPGA. Tal avaliação se faz necessária porque os processos de computação dos modelos neurais em hardware, embora semelhantes, não são necessariamente idênticos aos mesmos processos executados em software. Desta forma, a contribuição deste ponto de pesquisa pode ser entendida como a análise do impacto das mudanças implementadas na computação do SOM em FPGA em relação à execução tradicional do algoritmo, feita pela avaliação dos resultados produzidos pela rede neural por medidas de erros topográficos e de quantização. Este trabalho também gerou contribuições consideradas como de médio impacto, que podem ser divididas em dois grupos: aplicações práticas e aportes teóricos. A primeira contribuição de origem prática é a investigação de trabalhos publicados na literatura envolvendo SOM cujas aplicações podem ser viabilizadas por implementações em hardware. Os trabalhos localizados nesse levantamento foram organizados em diferentes categorias, conforme a área de pesquisa - como, por exemplo, Indústria, Robótica e Medicina - e, em geral, eles utilizam o SOM em aplicações que possuem requisitos de velocidade computacional ou embarque do processamento, portanto, a continuidade de seus desenvolvimentos é beneficiada pela execução direta em hardware. As outras duas contribuições de médio impacto de origem prática são as aplicações que serviram como plataforma de teste dos circuitos desenvolvidos para a implementação do SOM. A primeira aplicação pertence à área de telecomunicações e objetiva a identificação de símbolos transmitidos por 16-QAM ou 64-QAM. Estas duas técnicas de modulação são empregadas em diversas aplicações com requisitos de mobilidade - como telefonia celular, TV digital em dispositivos portáteis e Wi-Fi - e o SOM é utilizado para identificar sinais QAM recepcionados com ruídos e distorções. Esta aplicação gerou a publicação de um artigo na revista da Springer, Neural Computing and Applications: Sousa; Pires e Del-Moral-Hernandez (2017). A segunda aplicação pertence à área de processamento de imagem e visa reconhecer ações humanas capturadas por câmeras de vídeo. O processamento autônomo de imagens executado por chips FPGA junto às câmeras de vídeo pode ser empregado em diferentes utilizações, como, por exemplo, sistemas de vigilância automática ou assistência remota em locais públicos. Esta segunda aplicação também é caracterizada por demandar arquiteturas computacionais de alto desempenho. Todas as contribuições teóricas deste trabalho avaliadas como de médio impacto estão relacionadas ao estudo das características de arquiteturas de hardware para computação do modelo SOM. A primeira destas é a proposta de uma função de vizinhança do SOM baseada em FPGA. O objetivo de tal proposta é desenvolver uma expressão computacional para ser executada no chip que constitua uma alternativa eficiente tanto à função gaussiana, tradicionalmente empregada no processo de treinamento do SOM, quanto à função retangular, utilizada de forma rudimentar nas primeiras pesquisas publicadas sobre a implementação do SOM em FPGA. A segunda destas contribuições é a descrição detalhada dos componentes básicos e dos blocos computacionais utilizados nas diferentes etapas de execução do SOM em FPGA. A apresentação dos detalhes da arquitetura de processamento, incluindo seus circuitos internos e a função computada por cada um de seus blocos, permite que trabalhos futuros utilizem os desenvolvimentos realizados nesta pesquisa. Esta descrição detalhada e funcional foi aceita para publicação no IEEE World Congress on Computational Intelligence (WCCI 2018): Sousa et al. (2018). A terceira contribuição teórica de médio impacto é a elaboração de um modelo distribuído de execução do SOM em FPGA sem o uso de uma unidade central de controle. Tal modelo permite a execução das fases de aprendizado e operação da rede neural em hardware de forma distribuída, a qual alcança um comportamento global de auto-organização dos neurônios apenas pela troca local de dados entre elementos de processamento vizinhos. A descrição do modelo distribuído, em conjunto com sua caracterização, está publicada em um artigo no International Joint Conference on Neural Networks do IEEE (IJCNN 2017): Sousa e Del-Moral-Hernandez (2017a). A última contribuição deste grupo de aporte teórico é a comparação entre diferentes modelos de execução do SOM em FPGA. A comparação tem a função de avaliar e contrastar três diferentes possibilidades de implementação do SOM: o modelo distribuído, o modelo centralizado e o modelo híbrido. Os testes realizados e os resultados obtidos estão publicados em um trabalho no International Symposium on Circuits and Systems do IEEE (ISCAS 2017): Sousa e Del-Moral-Hernandez (2017b). Finalmente, apresentam-se a seguir as contribuições avaliadas como de menor impacto, em comparação com as contribuições já descritas, ou ainda incipientes (e que possibilitam continuidades da pesquisa em trabalhos futuros), sendo relacionadas a seguir como contribuições complementares: * Pesquisa de literatura científica sobre o estado-da-arte da área da Engenharia de Sistemas Neurais Artificiais. * Identificação de grupos internacionais de pesquisa de execução do SOM em hardware, os quais foram reconhecidos por publicarem regularmente seus estudos sobre diferentes tipos de implementações e categorias de circuitos computacionais. * Enumeração das justificativas e motivações mais frequentes na literatura para o processamento de sistemas neurais de computação em hardware. * Comparação e contraste das características de microprocessadores, GPUs, FPGAs e ASICs (tais como, custo médio do componente, paralelismo computacional oferecido e consumo típico de energia) para contextualização do tipo de aplicações que a escolha pela pesquisa com o dispositivo FPGA possibilita. * Levantamento das propriedades de computação do SOM em hardware mais frequentemente utilizadas nas pesquisas publicadas na literatura, tais como, quantidade de bits usados nos cálculos, tipo de representação de dados e arquitetura típica dos circuitos de execução das diferentes etapas de processamento do SOM. * Comparação do consumo de área do FPGA e da velocidade de processamento entre a execução da função de vizinhança tradicional gaussiana e a função de vizinhança proposta neste trabalho (com resultados obtidos de aproximadamente 4 vezes menos área do chip e 5 vezes mais velocidade de operação). * Caracterização do aumento dos recursos consumidos no chip e da velocidade de operação do sistema, em relação à implementação do SOM com diferentes complexidades (quantidade de estágios decrescentes do fator de aprendizado e da abertura da função de vizinhança) e comparação destas propriedades da arquitetura proposta em relação aos valores publicados na literatura. * Proposta de uma nova métrica para caracterização do erro topográfico na configuração final do SOM após o treinamento. / In the context of design electrical circuits for processing artificial neural networks, this work focuses on the study of Self-Organizing Maps (SOM) executed on FPGA chips. The work attempts to answer the following question: how should the computational architecture be designed to efficiently implement in FPGA each one of the SOM processing steps? More specifically, this thesis investigates the distinct possibilities that different SOM computing architectures offer, regarding the processing speed, the consumption of FPGA resources and the consistency to the theory that underlies this neural network model. The motivation of the present work is enabling the development of neural processing systems that exhibit the positive features typically associate to hardware implementations, such as, embedded processing and computational acceleration. MAIN CONTRIBUITIONS In the course of the investigation, the present work generated contributions with different degrees of impact. The most essential contribution from the point of view of structuring the research process is the theoretical basis of the hardware-oriented SOM properties. This is important because it allowed the construction of the foundations for the study of different circuit architectures, so that the developments remained consistent with the theory that underpins the neural computing model. Another major contribution is the proposal of a processor circuit for implementing SOM in FPGA, which is the state-of-the-art in computational speed measured in CUPS (Connections Updated Per Second). This processor allows achieving 52.67 GCUPS, during the training phase of the SOM, which means a gain of 100%, approximately, in relation to other published works. The acceleration enabled by the FPGA parallel processing developed in this work reaches three to four orders of magnitude compared with software implementations of the SOM with the same configuration. The highlights made in the text indicate pieces of writing that synthesize the idea presented. The last main contribution of the work is the characterization of the FPGA-based SOM. This evaluation is important because, although similar, the computing processes of neural models in hardware are not necessarily identical to the same processes implemented in software. Hence, this contribution can be described as the analysis of the impact of the implemented changes, regarding the FPGA-based SOM compared to traditional algorithms. The comparison was performed evaluating the measures of topographic and quantization errors for the outputs produced by both implementations. This work also generated medium impact contributions, which can be divided into two groups: empirical and theoretical. The first empirical contribution is the survey of SOM applications which can be made possible by hardware implementations. The papers presented in this survey are classified according to their research area - such as Industry, Robotics and Medicine - and, in general, they use SOM in applications that require computational speed or embedded processing. Therefore, the continuity of their developments is benefited by direct hardware implementations of the neural network. The other two empirical contributions are the applications employed for testing the circuits developed. The first application is related to the reception of telecommunications signals and aims to identify 16-QAM and 64-QAM symbols. These two modulation techniques are used in a variety of applications with mobility requirements, such as cell phones, digital TV on portable devices and Wi-Fi. The SOM is used to identify QAM distorted signals received with noise. This research work was published in the Springer Journal on Neural Computing and Applications: Sousa; Pires e Del-Moral-Hernandez (2017). The second is an image processing application and it aims to recognize human actions captured by video cameras. Autonomous image processing performed by FPGA chips inside video cameras can be used in different scenarios, such as automatic surveillance systems or remote assistance in public areas. This second application is also characterized by demanding high performance from the computing architectures. All the theoretical contributions with medium impact are related to the study of the properties of hardware circuits for implementing the SOM model. The first of these is the proposal of an FPGA-based neighborhood function. The aim of the proposal is to develop a computational function to be implemented on chip that enables an efficient alternative to both: the Gaussian function (traditionally employed in the SOM training process) and the rectangular function (used rudimentary in the first published works on hardware-based SOMs). The second of those contributions is the detailed description of the basic components and blocks used to compute the different steps of the SOM algorithm in hardware. The description of the processing architecture includes its internal circuits and computed functions, allowing the future works to use the architecture proposed. This detailed and functional description was accepted for publication in the IEEE World Congress on Computational Intelligence (WCCI 2018): Sousa et al. (2018). The development of an FPGA distributed implementation model for the SOM composes the third of those contributions. Such a model allows an execution of the neural network learning and operational phases without the use of a central control unit. The proposal achieves a global self-organizing behavior only by using local data exchanges among the neighboring processing elements. The description and characterization of the distributed model are published in a paper in the IEEE International Joint Conference on Neural Networks (IJCNN 2017): Sousa e Del-Moral-Hernandez (2017a). The last contribution of this group is the comparison between different FPGA architectures for implementing the SOM. This comparison has the function of evaluating and contrasting three different SOM architectures: the distributed model, the centralized model and the hybrid model. The tests performed and the results obtained are published in an article in the IEEE International Symposium on Circuits and Systems (ISCAS 2017): Sousa e Del-Moral-Hernandez (2017b). Finally, the contributions assessed as having a minor impact, compared to contributions already described, or still incipient (and which allow the continuity of the research in possible future works), are presented as complementary contributions: * Research in the scientific literature on the state-of-the-art works in the field of Artificial Neural Systems Engineering. * Identification of the international research groups on hardware-based SOM, which were recognized for regularly publishing their studies on different types of implementations and categories of computational circuits. * Enumeration of the justifications and motivations often mentioned in works on hardware developments of neural computing systems. * Comparison and contrast of the characteristics of microprocessors, GPUs, FPGAs and ASICs (such as, average cost, parallelism and typical power consumption) to contextualize the type of applications enabled by the choice of FPGA as the target device. * Survey of literature for the most commonly hardware properties used for computing the SOM, such as the number of bits used in the calculations, the type of data representation and the typical architectures of the FPGA circuits. * Comparison of the FPGA resources consumption and processing speed between the execution of the traditional Gaussian neighborhood function and the proposed alternative neighborhood function (with obtained results of approximately 4 times less chip area and 5 times more computational speed). * Characterization of the increase in chip resources consumptions and the decrease in system speeds, according to the implementations of the SOM with different complexities (such as, the number of stages in learning factor and the width of the neighborhood function). Comparison of these properties between the proposed architecture and the works published in the literature. * Proposal of a new metric for the characterization of the topographic error in the final configuration of the SOM after the training phase.

A navegação autônoma é uma tarefa fundamental na robótica móvel. Para que esta tarefa seja realizada corretamente é necessário um sistema inteligente de controle e navegação associado ao sistema sensorial. Este projeto apresenta o desenvolvimento de um sistema de controle para a navegação de veículos e robôs móveis autônomos. A abordagem utilizada neste trabalho utiliza Redes Neurais Artificiais para o aprendizado de Autômatos Finitos de forma que os robôs possam lidar com os dados provenientes de seus sensores mesmo estando sujeitos a imprecisões e erros e ao mesmo tempo permite que sejam consideradas as diferentes situações e estados em que estes robôs se encontram (contexto). Dessa forma, é possível decidir como agir para realizar o controle da sua movimentação, e assim executar tarefas de controle e navegação das mais simples até as mais complexas e de alto nível. Portanto, esta dissertação visa utilizar Redes Neurais Artificiais para reconhecer o estado atual (contexto) do robô em relação ao ambiente em que está inserido. Uma vez que seja identificado seu estado, o que pode inclusive incluir a identificação de sua posição em relação aos elementos presentes no ambiente, o robô será capaz de decidir qual a ação/comportamento que deverá ser executado. O sistema de controle e navegação irá implementar um Autômato Finito que a partir de um estado atual define uma ação corrente, sendo capaz de identificar a mudança de estados, e assim alternar entre diferentes comportamentos previamente definidos. De modo a validar esta proposta, diversos experimentos foram realizados através do uso de um simulador robótico (Player-Stage), e através de testes realizados com robôs reais (Pioneer P3-AT, SRV-1 e veículos automatizados) / Autonomous navigation is a fundamental task in mobile robotics. In order to accurately perform this task it is necessary an intelligent navigation and control system associated to the sensorial system. This project presents the development of a control system for autonomous mobile robots and vehicles navigation. The adopted approach uses Artificial Neural Networks for Finite State Machine learning, allowing the robots to deal with sensorial data even when this data is not precise and correct. Simultaneously, it allows the robots to consider the different situations and states they are inserted in (context detection). This way, it is possible to decide how to proceed with motion control and then execute navigation and control tasks from the most simple ones until the most complex and high level tasks. So, this work uses Artificial Neural Networks to recognize the robots current state (context) at the environment where it is inserted. Once the state is detected, including identification of robots position according to environment elements, the robot will be able to determine the action/- behavior to be executed. The navigation and control system implements a Finite State Machine deciding the current action from current state, being able to identify state changes, alternating between different previously defined behaviors. In order to validade this approach, many experiments were performed with the use of a robotic simulator (Player-Stage), and carrying out tests with real robots (Pioneer P3-AT, SRV-1 and autonomous vehicles)

Robôs sociáveis devem ser capazes de interagir, se comunicar, compreender e se relacionar com os seres humanos de uma maneira natural. Embora diversos robôs sociáveis tenham sido desenvolvidos com sucesso, ainda existem muitas limitações a serem superadas. São necessários importantes avanços no desenvolvimento de mecanismos que possibilitem interações mais realísticas, bem como regulem o relacionamento entre robôs e humanos. Um forma de tornar mais realísticas as interações é através de expressões faciais de emoção. Nesse contexto, este trabalho fornece capacidade de imitação de expressão facial de emoções a uma cabeça robótica virtual, com o objetivo de permitir interações mais realísticas e duradouras com o ser humano. Para isso, é incorporado à mesma aprendizado por imitação, no qual a cabeça robótica imita expressões faciais apresentadas por um usuário durante a interação social. O aprendizado por imitação foi realizado atráves de redes neurais artificiais. As expressões faciais consideradas neste trabalho são: neutra, alegria, raiva, surpresa e tristeza. Os resultados experimentais são apresentados, os quais mostram o bom desempenho do sistema de imitação proposto / Sociable robots must be able to interact, communicate, understand and relate to humans in a natural way. Although many social robots have been developed successfully, there are still many limitations to overcome. Important advances are needed in the development of mechanisms that allow more realistic interactions and that regulate the relationship between robots and humans. One way to make more realistic interactions is through facial expressions of emotion. In this context, this project provides ability for imitation of facial expressions of emotion to a virtual robotic head, in order to allow more realistic and lasting interactions with humans. For such, learning by imitation is used, in which the robotic head mimics facial expressions made by a user during social interaction. The imitation learning was performed by artificial neural networks. Facial expressions considered in this work are: neutral, happiness, anger, surprise and sadness. Experimental results are presented which show the good performance of the proposed system imitation

Os sistemas de classificação maciços rochosos e as redes neurais artificiais possuem diversas similaridades. Existem características que estão presentes nos dois tipos de sistemas: bases de dados são usadas para o seu desenvolvimento; e pesos são parte da representação do conhecimento. Os principais sistemas de classificação geomecânicas (Sistema Q e RMR) podem ser escritos como representações neurais locais. Tais representações permitem uma melhor compreensão do processo de classificação e identificação de padrões realizado pelas classificações convencionais. Experimentos convencionais foram realizados com modelos de redes neurais não-supervisionados. Os modelos não supervisionados permitiriam uma melhor compreensão da distribuição dos dados no espaço de feições. Um modelo supervisionado para escavações subterrâneas em todo domínio do espaço de feições. Importantes relações entre características foram encontradas. / Rock mass classification systems and artificial neural networks have several similarities. There is some characteristics present in both systems: data bases are used in they development, and weights are part of the knowledge representation. The main rock mass classification systems (Q-system and RMR) can be written as local neural network representations. This representation helps a better understanding of the pattern classification and identification process made by the conventional classifications. Computational experiments were made with unsupervised and supervised neural networks models. Unsupervised models allow a better understanding of the data in the feature space. A supervised model allow to make a mapping of the support type used in underground excavation in all feature space domain. Important relations between domain regions characteristics and type of support used were found.

A aplicação de simulações numéricas em problemas de confiabilidade estrutural costuma estar associada a grandes custos computacionais, dada a pequena probabilidade de falha inerente às estruturas. Ainda que diversos casos possam ser endereçados através de técnicas de redução da variância das amostras, a solução de problemas envolvendo grande número de graus de liberdade, respostas dinâmicas, não lineares e problemas de otimização na presença de incertezas são comumente ainda inviáveis de se resolver por esta abordagem. Tais problemas, porém, podem ser resolvidos através de representações analíticas que aproximam a resposta que seria obtida com a utilização de modelos computacionais mais complexos, chamadas chamados meta-modelos. O presente trabalho trata da compilação, assimilação, programação em computador e comparação de técnicas modernas de meta-modelagem no contexto da confiabilidade estrutural, utilizando representações construídas a partir de redes neurais artificiais, expansões em polinômios de caos e através de krigagem. Estas técnicas foram implementadas no programa computacional StRAnD - Structural Reliability Analysis and Design, desenvolvido junto ao Departamento de Engenharia de Estruturas, USP, resultando assim em um benefício permanente para a análise de confiabilidade estrutural junto à Universidade de São Paulo. / The application of numerical simulations to structural reliability problems is often associated with high computational costs, given the small probability of failure inherent to the structures. Although many cases can be addressed using variance reduction techniques, solving problems involving large number of degrees of freedom, nonlinear and dynamic responses, and problems of optimization in the presence of uncertainties are sometimes still infeasible to solve by this approach. Such problems, however, can be solved by analytical representations that approximate the response that would be obtained with the use of more complex computational models, called meta-models. This work deals with the collection, assimilation, computer programming and comparison of modern meta-modeling techniques in the context of structural reliability, using representations constructed from artificial neural networks, polynomial chaos expansions and Kriging. These techniques are implemented in the computer program StRAnD - Structural Reliability Analysis and Design, developed at the Department of Structural Engineering, USP; thus resulting in a permanent benefit to structural reliability analysis at the University of São Paulo.