Orientador: José Ricardo Sturaro / Banca: Tarcísio Barreto Celestino / Banca: Jorge Kazuo Yamamoto / Banca: Elias Carneiro Daitx / Banca: Paulo Milton Barbosa Landim / Resumo: Este estudo desenvolve a aplicação da técnica de redes neurais artificiais no controle de teor de minério em frentes de lavra a partir de observações geológicas e geotécnicas. A área de estudo da aplicação é o depósito de cobre e ouro de Chapada (Goiás), hospedado por rochas da seqüência vulcano-sedimentar neoproterozóica de Chapada-Mara Rosa. Trata-se de um depósito mineral tipo epigenético, ligado a processos de alteração hidrotermal, associado a zonas estruturalmente favoráveis. As observações geológicas e geotécnicas constituem um banco de dados com 21.212 registros e 21 variáveis, provenientes de amostras de 237 furos de sondagem rotativa diamantada. As variáveis de entrada incluem litologia, porcentagem de sulfetos, razão calcopirita/pirita, freqüência de fraturas, RQD, e alterações hidrotermais tais como: cloritização, sericitização, silicificação, epidotização, carbonatização e piritização. As variáveis de saída são: teores de cobre e ouro. O modelo de rede neural utilizado foi o de múltiplas camadas (MLP) alimentada adiante (“feedforward”) totalmente interconectada, com 30 neurônios na camada oculta e 2 neurônios na camada de saída. A rede foi treinada com o algoritmo de retropropagação de Levenberg-Marquardt acoplado com regularização bayesiana. Obteve-se um índice de acertos de 80% na predição de teores de cobre em bancadas simuladas. / Abstract: This study deals with application of artificial neural networks (ANNs) on grade control at mine sites inputting both geological and geotechnical variables. Case study is Chapada copper-gold deposit (Goiás, Brazil), located in the neoproterozoic Chapada-Mara Rosa volcano-sedimentary sequence. Ore is closely related to hydrothermal alteration, structurally controlled. The geological and geotechnical database contain 21,212 records on 21 variables taken from 237 diamond drill holes. Input variables include lithology, sulfide percentage, chalcopyrite/pyrite ratio, fracture frequency, RQD, and hydrothermal alterations such as chloritization, sericitization, silicification, epidotization, carbonatization and pyritization. Output variables are gold and copper grades. Neural network model is feedforward multi-layer perceptron (MLP), fully connected with 30 hidden and 2 output neurons. Network was trained with Levenberg-Marquardt backpropagation algorithm associated with bayesian regularization. Success rate on predicting copper grades on simulated mine benches was over 80%. / Doutor

O presente trabalho envolve a elaboração de um modelo matemático para um processo industrial de produção de cloro e soda a partir de salmoura, visando sua otimização em termos de eficiência de produção e dos custos dos consumos de energia elétrica e vapor. O estudo contemplou duas etapas do processo: eletrólise e concentração de licor de NaOH por evaporação. Para a unidade de eletrólise não foram encontrados na literatura modelos fenomenológicos adequados à simulação do processo. Por essa razão, foram desenvolvidos modelos empíricos baseados em redes neurais tipo ?feedforward? constituídas por três camadas, a partir de dados da operação industrial. Para a unidade de evaporação foi elaborado um balanço de energia adequado à estimativa do consumo de vapor. Porém, devido à falta de modelos para previsão das relações de equilíbrio para o sistema, o modelo fenomenológico foi substituído por um modelo de redes neurais tipo ?feedforward? de três camadas também para essa unidade. Para ajuste dos modelos, uma base de dados foi montada a partir de dados de operação do processo da Carbocloro S.A. Indústrias Químicas, localizada em Cubatão-SP, analisados por meio de técnicas estatísticas multivariadas, visando detectar e eliminar erros grosseiros e dados anômalos, além de identificar correlações entre variáveis e diferentes regimes operacionais da planta de produção de cloro e soda. Os modelos ajustados para os diferentes circuitos de células de eletrólise, bem como para a etapa de evaporação, apresentaram boa concordância com os dados operacionais. Isto possibilitou sua utilização para simular a operação das unidades de células eletrolíticas e evaporação no processo industrial de produção de cloro-soda, com células tipo diafragma. O modelo matemático baseado em redes neurais foi utilizado em estudos de otimização do processo, de modo a maximizar o ganho financeiro na unidade industrial, para uma dada condição de operação. / The present work consists on the development of a mathematical model on an industrial chlorine and sodium hydroxide production plant, aiming at the optimization of production efficiency and costs saving concerning electrical energy and vapor consumption. Two process steps were considered in the study: electrolysis and NaOH-liquor concentration by evaporation. Since there are no adequate models reported in the literature for simulating electrolysis-based processes like the one considered, empirical models for the different types of electrolysis cells were developed based on the fitting of neural networks to operational data from industrial operation. In this case, feedforward neural networks containing three neuron layers were fitted to the data. The raw data obtained from industrial operation at Carbocloro plant, in Cubatão ? SP, were first treated by means of multivariate statistical techniques, with the purpose of detecting and eliminating data containing gross errors and outliers, as well as to identify correlations among variables and different operational regimes of the industrial plant. Although material and energy balances for the evaporation step have been initially adopted, this approach could not be used in simulations due to the lack of valid models to predict liquid ? vapor equilibria for the specific system. Thus, a neural network model was also fitted to data from operation of the evaporation step. Fitting of the neural network models resulted in good agreement between model predictions and measured values of the model output variables, and this enabled their use in simulation studies for the electrolysis and evaporation process steps. The neural network-based mathematical model was utilized in process optimization studies aiming at the best financial gain under given operational conditions.

CoordenaÃÃo de AperfeiÃoamento de NÃvel Superior / A animaÃÃao por dinÃmica direta consiste em sintetizar os movimentos de um modelo a partir da especificaÃÃo de suas propriedades fÃsicas (massa e momento de inÃrcia), das condiÃÃes de vÃnculo entre suas partes componentes, das condiÃÃes de contato com outros corpos e das forÃas que nele atuam. Essa abordagem tem a vantagem de gerar animaÃÃes com realismo fÃsico. O problema, que continua relevante como objeto de investigaÃÃo, à o de controle do modelo: âQue forÃas devem ser aplicadas ao modelo para gerar o movimento desejado?â. A soluÃÃo do problema proposto apresentada neste trabalho assume que o modelo estudado constitui-se de uma estrutura de corpos rÃgidos articulados cujos movimentos sÃo gerados por atuadores internos, com suas forÃas definidas por um sistema nervoso. Com o uso de redes neurais artificiais e computaÃÃo evolucionÃria, o controlador proposto à capaz de adaptar-se para controlar diferentes modelos articulados, e para gerar variados tipos de movimentos enquanto mantÃm a estabilidade mesmo quando hà pequenas variaÃÃes do terreno. O modelo proposto possui, em seu nÃcleo, um gerador central de padrÃes (CPG - Central Pattern Generator) baseado em osciladores neurais, e o mesmo tem sua atividade regulada por mÃdulos sensoriais, para permitir o equilÃbrio da estrutura e estabilidade do movimento, respondendo Ãss variaÃÃes do ambiente. Para a adaptaÃÃo à estrutura articulada e aprendizagem de movimentos, o controlador possui ainda um mÃdulo cognitivo, responsÃvel pela busca dos parÃmetros neurais, atravÃs de algoritmos genÃticos, e das redes de retroalimentaÃÃo (sensoriamento), com programaÃÃo genÃtica. Resultados sÃo apresentados em associaÃÃo ao controle dos modelos humanÃide, cheetah, sapo, luxo e luxo-2, sendo esses dois Ãltimos iguais topologicamente, mas com variaÃÃes nos tamanhos dos corpos e liberdade das juntas. Todos os modelos sÃo testados em terreno plano e com rampa. / Direct dynamics animation consists of synthesizing the movements of a model from the specification of its physical properties (mass and moment of inertia), the conditions of bond between its contracting parties, the conditions of contact with other bodies and the forces that acts on it. This approaching has the advantage to generate animations with physical realism. The problem, that continues relevant as inquiry object, is the control of the model: âWhat forces must be applied to the model to generate the desired movement?â. The solution of the problem, presented in this work, assumes that the studied model consists of a structure of rigid link bodies whose movements are generated by internal actuators, with its forces defined by a nervous system. With use of artificial neural networks and evolutionary computation, the proposed controller is capable of adapting itself to control different articulated models, and to generate varied types of movements while it keeps the stability even with small variations of the terrain. The presented model possesses, in its core, a Central Pattern Generator (CPG) based on neural oscillators, that has their activities regulated by the sensorial module, to allow the balance of the structure and stability of the movement, responding to environment variations. For the adaptation to the articulated structure and learning of movements, the controller has a cognitive module, responsible for the search of neural parameters, through genetic algorithms, and the feedback networks (sensorial answers to environment variations), with genetic programming. Results are presented related to the control of models humanoid, cheetah, frog, luxo and luxo-2, having these last two ones equal topologies, but with variations in the sizes of the bodies and freedom of the joints. All the models are tested in plain land and with slope.

Made available in DSpace on 2016-08-17T14:52:53Z (GMT). No. of bitstreams: 1 Fabricio Caminha Fernandes.pdf: 938542 bytes, checksum: fb0b175a346e9198486c164ac194caa5 (MD5) Previous issue date: 2004-07-16 / The objective of this work is the use of artificial neural networks (ANN) to estimate the critical clearing time of a power system submitted to severe disturbances concerning to electrical power system transient stability. The critical time is difficult to determinate, because it is direct or indirect affected by a series of factors, such as: type of fault, fault localization, configuration (state) of the electrical power system at the moment of the occurrence of the fault, and so on. The neural net must observe the disturbance caused in the angle wave form of one of the generators caused by a fault in a transmission line, thus determining, based in this observation, the critical time for that type of fault, in that same line, and also foreseeing the influence that changes in the generated powers can cause in the transient stability limit. Two proposals based on this main idea, applied in two different test systems, the WSCC3 and the New England. The first proposal was applied in the WSCC3 system, and represents the embryo of the second method. The second proposal was an advanced attempt of the first, about the applicability of the method in larger electrical systems. / O objetivo deste trabalho foi a utilização de redes neurais artificiais (RNA) para estimar o tempo crítico de eliminação de falta de um sistema de potência submetido a perturbações severas, dentro da área da estabilidade transitória de sistemas elétricos de potência. O tempo crítico é uma variável de difícil determinação, dado que é direta ou indiretamente afetado por uma série de fatores, tais como: tipo de falta, localização da falta, configuração (estado) do sistema elétrico de potência no momento da ocorrência da falta, etc. A rede neural deverá observar a perturbação causada na forma de onda do ângulo de um dos geradores causada por uma falta numa determinada linha do sistema, determinando assim, baseando-se nessa observação, o tempo crítico para aquele tipo de falta naquela mesma linha, e prevendo também a influência que alterações na potência gerada podem causar no limite de estabilidade transitória. Foram desenvolvidas duas propostas baseadas nesta idéia principal, aplicadas em dois sistemas-teste diferentes, o WSCC3 e o New-England. A primeira proposta foi aplicada sobre o sistema WSCC3 e representa o embrião do segundo método. A segunda proposta é uma tentativa de avanço em relação à primeira, quanto à aplicabilidade do método em sistemas de maior porte.

Nesta tese consideramos uma nova classe de sistemas markovianos de partículas com infinitas componentes interagentes. O sistema representa a evolução temporal dos potenciais de membrana de um conjunto infinito de neurônios interagentes. Provamos a existência e unicidade do processo construindo um pseudo-algoritmo de simulação perfeita e mostrando que este algoritmo roda em um número finito de passos quase certamente. Estudamos também o comportamento do sistema quando consideramos apenas um conjunto finito de neurônios. Neste caso, construímos um procedimento de simulação perfeita para o acoplamento entre o processo limitado a um conjunto finito de neurônios e o processo que considera todos os neurônios do sistema. Como consequência encontramos um limitante superior para a probabilidade de discrepância entre os processos. / We consider a new class of interacting particle systems with a countable number of interacting components. The system represents the time evolution of the membrane potentials of an infinite set of interacting neurons. We prove the existence and uniqueness of the process, by the construction of a perfect simulation procedure. We show that this algorithm is successful, that is, we show that the number of steps of the algorithm is finite almost surely. We also study the behaviour of the system when we consider only a finite number of neurons. In this case, we construct a perfect simulation procedure for the coupling of the process with a finite number of neurons and the process with a infinite number of neurons. As a consequence we obtain an upper bound for the error we make when sampling from a finite set of neurons instead of the infinite set of neurons.

In this thesis, we provide solutions to two different bio-inspired algorithms. The first is enhancing the performance of bio-inspired test generation for circuits described in RTL Verilog, specifically for branch coverage. We seek to improve upon an existing framework, BEACON, in terms of performance. BEACON is an Ant Colony Optimization (ACO) based test generation framework. Similar to other ACO frameworks, BEACON also has a good scope in improving performance using parallel computing. We try to exploit the available parallelism using both multi-core Central Processing Units (CPUs) and Graphics Processing Units(GPUs). Using our new multithreaded approach we can reduce test generation time by a factor of 25 — compared to the original implementation for a wide variety of circuits. We also provide a 2-dimensional factoring method for BEACON to improve available parallelism to yield some additional speedup. The second bio-inspired algorithm we address is for Deep Neural Networks. With the increasing prevalence of Neural Nets in artificial intelligence and mission-critical applications such as self-driving cars, questions arise about its reliability and robustness. We have developed a test-generation based technique and metric to evaluate the robustness of a Neural Nets outputs based on its sensitivity to its inputs. This is done by generating inputs which the neural nets find difficult to classify but at the same time is relatively apparent to human perception. We measure the degree of difficulty for generating such inputs to calculate our metric. / MS / High-level Hardware Design Languages (HDLs) has allowed designers to implement complicated hardware designs with considerably lesser effort. Unfortunately, design verification for the same circuits has failed to scale gracefully in terms of time and effort. Not only has it become more difficult for formal methods due to exponential complexity from increasing path explosion, but concrete test generation frameworks also face new issues such as the increased requirement in the volume of simulations. The advent of parallel computing using General Purpose Graphics Processing Units (GPGPUs) has led to improved performance for various applications. We propose to leverage both the multi-core CPU and the GPGPU for RTL test generation. This is achieved by implementing a test generation framework that can utilize the SIMD type parallelism available in GPGPUs and task level parallelism available on CPUs. The speedup achieved is extracted from both the test generation framework itself and also from refactoring the hardware model for multi-threaded test generation. For this purpose, we translate the RTL Verilog to a C++ and a CUDA compilable program. Experimental results show that considerable speedup can be achieved for test generation without loss of coverage. In recent years, machine learning and artificial intelligence have taken a substantial leap forward with the discovery of Deep Neural Networks(DNN). Unfortunately, apart from Accuracy and FTest numbers, there exist very few metrics to qualify a DNN. This becomes a reliability issue as DNNs are quite frequently used in safety-critical applications. It is difficult to interpret how the parameters of a trained DNN help store the knowledge from the training inputs. Therefore it is also difficult to infer whether a DNN has learned parameters which might cause an output neuron to misfire wrongly, a bug. An exhaustive search of the input space of the DNN is not only infeasible but is also misleading. Thus, in our work, we try to apply test generation techniques to generate new test inputs based on existing training and testing set to qualify the underlying robustness. Attempts to generate these inputs are guided only by the prediction probability values at the final output layer. We observe that depending on the amount of perturbation and time needed to generate these inputs we can differentiate between DNNs of varying quality.

While methods like learning-without-forgetting [11] and elastic weight consolidation [22] accomplish high-quality transfer learning while mitigating catastrophic forgetting, progressive techniques such as Deepmind’s progressive neural network accomplish this while completely nullifying forgetting. However, progressive systems like this strictly require task labels during test time. In this paper, I introduce a novel task recognizer built from anomaly detection autoencoders that is capable of detecting the nature of the required task from input data.Alongside a progressive neural network or other progressive learning system, this task-aware network is capable of operating without task labels during run time while maintaining any catastrophic forgetting reduction measures implemented by the task model.

Yes / Dust storms are one of the natural phenomena, which have increased in frequency in recent years in North Africa, Australia and northern China. Satellite remote sensing is the common method for monitoring dust storms but its use for identifying dust storms over sandy ground is still limited as the two share similar characteristics. In this study, an artificial neural network (ANN) is used to detect dust storm using 46 sets of data acquired between 2001 and 2010 over North Africa by the Moderate Resolution Imaging Spectroradiometer (MODIS) instruments aboard the Terra and Aqua satellites. The ANN uses image data generated from Brightness Temperature Difference (BTD) between bands 23 and 31 and BTD between bands 31 and 32 with three bands 1, 3, and 4, to classify individual pixels on the basis of their multiple-band values. In comparison with the manually detection of dust storms, the ANN approach gave better result than the Thermal Infrared Integrated Dust Index approach for dust storms detection over the Sahara. The trained ANN using data from the Sahara desert gave an accuracy of 0.88 when tested on data from the Gobi desert and managed to detect 90 out of the 96 dust storm events captured worldwide by Terra and Aqua satellites in 2011 that were classified as dusty images on NASA Earth Observatory. / IEEE Geoscience and Remote Sensing Society

Nos últimos anos muito tem se pesquisado na área de arquiteturas paralelas de computadores, devido ao fato da melhora de desempenho nas arquiteturas sequenciais não estar acompanhando as necessidades crescentes de capacidade de processamento. Entre as arquiteturas paralelas, um grupo que tem recebido especial atenção por parte dos pesquisadores é o de redes neurais. Uma rede neural é uma arquitetura baseada em paralelismo massivo, na interconexão de numerosos elementos simples de processamento segundo uma determinada topologia e com uma regra de aprendizagem. As redes neurais tem tido grande importância na área de reconhecimento de padrões e diversas aplicações em reconhecimento de caracteres, imagem e voz tem sido desenvolvidas. Outra área de aplicação das redes neurais é o processamento de sinais. A característica de adaptabilidade das redes neurais torna-as apropriadas à utilização em aplicações, onde as características do sinal, ou do meio, são variáveis ou não totalmente conhecidas, como filtros adaptativos. O objetivo deste trabalho é mostrar as aplicações de redes neurais nesta área. Na primeira parte do trabalho foram implementadas aplicações de redes neurais à filtragem utilizando diversas topologias e modelos de neurônios. Os modelos implementados são aqui apresentados juntamente com os resultados das simulações. A segunda parte do trabalho consiste na aplicação de um modelo de redes neurais a um problema bem específico, a separação de sinais a partir de diversas combinações destes sinais. A solução implementada foi baseada no algoritmo proposto por Jutten em [JUT 87]. Além da aplicação deste algoritmo, o problema envolve a análise espectral do sinal, e a reconstrução do sinal original a partir de suas componentes, após efetuada a separação. Neste trabalho é efetuado um estudo sobre este algoritmo, é proposta uma alteração para sua aplicação a sinais de voz, e são mostrados os resultados obtidos na aplicação deste sistema à separação de sinais de voz de diversos locutores. / A lot of research has recently been done in parallel architectures, due to the fact that the improvement in the performance of sequential architectures has not accompanied the growing needs of processing power. Among the parallel architectures, one that has received special attention of the researchers is neural nets. A neural net is an architecture based on massive parallelism, interconection of many processing elements according to one topology and a learning rule. This technology has acquired great importance in the area of pattern recognition and many apllications in recognition of characters, images and voice have been developed. Another area of application of neural nets is signal processing. The characteristic of adaptability of neural nets makes them appropriate to the use of applications where the characteristics of the signal or the environment are variable or not completely known, like adaptive filters. The goal of this work is showing some applications of neural nets in signal processing. In the first part of the work applications of neural nets to filtering using different topologies and models of neurons have been implemented. These models are presented here with the results of these simulations. The second part consists of the application of a neural network model to a very specific problem, the separation of signals from combinations of these signals. The solution implemented was based in the algorithm proposed by Jutten [JUT 87][HER 88]. This problem involves, besides the application of this algorithm, signal spectral analysis and reconstruction of the original signal from the components after the separation is accomplished. After describing the study of the algorithm which has been carried on, the work finishes with the proposal of a modification which would allow the enhancement of its range of applications, namely, to the field of voice signal processing. The results of this other kind of application are consequently shown.

Um dos grandes desafios atuais da computação e ultrapassar o abismo existente entre o homem e a maquina. Para tanto, o desafio passa a ser a formalização de estados mentais e sua modelagem computacional. Isso e necessário, uma vez que o homem somente conseguira comunicar-se com uma maquina quando esta puder dar e receber informações sem que o homem precise aprender uma forma especial de comunicação. É necessário, portanto, que a maquina aprenda a comunicar-se como o homem. Neste sentido, o estudo da linguagem torna-se uma porta aberta para criar uma computação que se adapte ao homem e, ao mesmo tempo favoreça pesquisas que visem uma melhor compreensão do funcionamento do cérebro, da linguagem e do aprendizado do próprio homem. O presente trabalho mostra que o computador possui um potencial de comunicação ainda inexplorado. Por este motivo, em estudos anteriores procurou-se a verificação do atual estagio de modelagem de comunicação homem-máquina em comparação a evolução da linguagem humana. Constatou-se, então, que a maquina pode chegar a uma efetiva comunicação com o homem embora jamais espontânea. como se vê na ficção científica. O que e possível e a auto-organização pelo computador de sinais provenientes de seu meio, visando a realização de determinadas tarefas. Esses sinais do meio em que esta o computador são exatamente o que justifica suas ações, o que da significado ao que lhe e transmitido, assim como o que ocorre no homem. Para que se modele o reconhecimento semantico de frases necessário que se encontre uma forma de codificar os sinais do meio para que estes, acompanhando a frase, permitam o reconhecimento de seu significado. Porem, como o objetivo deste trabalho e a implementação do reconhecimento semântico e não a recepção de sinais, optou-se por uma codificação representativa dos sinais externos. Esta codificação permite que, através da tecnologia das Redes Neurais Artificiais, seja possível a implementação de relações semânticas entre palavras e entre frases, permitindo a classificação para posterior reconhecimento. A implementação computacional realizada permite o reconhecimento de frases, mesmo com alteração de palavras e numero de palavras. O protótipo aqui apresentado mostra que, mesmo com uma estrutura extremamente mais simples que outros sistemas de reconhecimento de língua natural, é possível uma adequada identificação de frases. / One of the great challenges of computation nowadays is to cross the abyss between man and machine. Thus, the challenge becomes the formalization of mental states and its computational modelling. This is necessary since man will only get to communicate with a machine when this machine is able to give and receive information without man needs to learn a special way to communicate. Therefore, it is necessary that the machine learns to communicate with man. In this sense, the study of the language becomes an open door in order to create a computation that may be adapted to man. and, at the same time, may help researches which aim at a better comprehension of the brain functioning of the language and of man's learning. This work shows that the computer has a potential for communication that has not been explored yet. For this reason, in prior studies we tried to verify the present stage of man-machine communication modelling in comparison with the human language evolution. We verified, then, that the machine can reach an effective communication with man, but never spontaneous, as we see in scientific fiction (Sci-Fi). What can be possible is the self-organization by computer of signals deriving from its own environment, aiming at realization of specifics tasks. Those signals of the computer environment are exactly what justifies its actions. what gives meaning to what is transmitted to it in the same way that happens with man. In order to mould the Semantic Recognition of phrases it is necessary to find out a way of codifying the signals of the environment so that these signals. accompanying a phrase, may permit recognition of its meaning. However, as the purpose of this work is the implementation of the Semantic Recognition, and not the reception of signals, we have opted for a representative codification of external signals. This codification allows that, through the Artificial Neural Nets technology, the implementation of semantic relations among words and phrases may be possible, permitting the classification for posterior recognition. The computational implementation realized permits the recognition of phrases, even with alteration of words and number of words. The prototype presented here shows that, even with one structure extremely simpler than other systems of Natural Language Recognition, an adequate identification of phrases is possible.