Esta tese de Mestrado apresenta um estudo do comportamento de fonemas da língua portuguesa para sistemas de reconhecimento de voz baseados em fonemas. dentro desse vasto campo de pesquisa, é dada ênfase à análise para segmentação de voz contínua em categorias fonéticas, baseada em medidas de energia, informação espectral e informação de sonoridade do segmento. Durante a análise dos resultados dos trabalhos de segmentação, notou-se que na fala coloquial da língua portuguesa, há forte tendência a pronunciar na forma surda (ou seja, sem vibração das cordas vocais) as vogais presentes em sílabas átonas postônicas, e que isto causava uma mudança de comportamento nos fonemas oclusivos /p/ e /t/, quando seguidos por essas vogais surdas. Assim, esta tese também abordará a tarefa de reconhecimento de fonemas oclusivos surdos quando seguidos de uma reda neural, resultando em uma boa taxa de reconhecimento.

Procurando contornar problemas inerentes às abordagens cognitiva e estatística em reconhecimento de voz, propõe-se a utilização de uma rede neuronal. Implementou-se um modelo simples de rede neuronal para o reconhecimento de alguns fonemas vocálicos pertencentes a um vocabulário de comando. O treinamento da rede foi feito com elocuções provindas de quatro locutores. Um conjunto distinto de locutores forneceu dados aplicados à entrada da rede para a realização dos testes. Em relação a outros sistemas de reconhecimento, a utilização da rede neuronal apresenta as vantagens de ser um algoritmo iterativo simples, mostrando pra o caso aplicado um comportamento estável e com possibilidades de aprendizagem para distinguir entre novas realizações de fonemas. A rede neuronal caracteriza-se pelo esforço necessário para o estabelecimento de sua estrutura e processo de aprendizagem. Concluída esta fase, a realização das funções de classificação e reconhecimento é imediata.

Este trabalho visa estudar o efeito da inclusão de técnicas de chaveamento no treinamento de Redes Neurais Artificiais do tipo feedforward observando se tais técnicas de treinamento produzem Redes Neurais Artificiais mais tolerantes a perdas de unidades escondidas. Apresentamos também, um estudo comparativo dos algoritmos de treinamento Back-Propagation e Filtro de Kalman Estendido na sua forma original e com a presença da técnica de chaveamento. No final é apresentado um exemplo prático de utilização de Redes Neurais Artificiais, dentro do tópico reconhecimento de padrões, que é o reconhecimento de determinados sinais eletrocardiográficos, validando a técnica ora apresentada. O traballho foi realizado em um microcomputador IBM-PC, e utilizada a ferramenta MATLAB.

Este trabalho aborda o problema do controle dinâmico de robôs testando e comparando o desempenho de três diferentes controladores desenvolvidos para o manipulador robótico da Divisão de Engenharia Mecânica-Aeronáutica do ITA (Robô ITA-IEMP), a saber: um controlador IJC (Independent Joint Control) tradicional utilizando algoritmo PID, um controlador utilizando a técnica do torque computado e um controlador utilizando redes neurais artificiais. Inicialmente as três estratégias foram simuladas em computador utilizando um modelo dinâmico do Robô ITA-IEMP derivado simbolicamente a partir da Formulação de Lagrange-Euler. Uma vez feita a simulação, estas foram implementadas computacionalmente de forma a executarmos o controle em tempo real do manipulador. São apresentados os resultados das simulações computacionais e da operação em tempo real do manipulador para cada uma das estratégias desenvolvidas. De forma a integrar as implementações computacionais destas técnicas de controle e também as diferentes rotinas para geração de trajetórias desenvolvidas, foi implementada uma interface gráfica amigável com o auxílio do pacote CXL.

Neste trabalho foi desenvolvida uma camada de pre-processamento derivada de uma expansão de uma estrutura clássica de rede neural sem realimentação, que utiliza como algoritmo de treinamento o método de retropropagação do erro, aplicada ao reconhecimento de fonemas multilocutor. Esta camada de pré-processamento atua de forma que a rede possa determinar automaticamente o melhor conjunto de dados de entrada da rede, baseados em faixas de frequências, através dos erros propagados pela própria rede, de forma que esta não convirja para uma melhor classificação dos fonemas de entrada. Foram testadas para esse fim algumas estratégias associadas ao treinamento envolvido nesta camada de pré-processamento. Os experimentos condiziram ao desenvolvimento de uma estratégia capaz de reduzir o erro de classificação em média em 10% em relação ao obtido sem sua utilização.

Neste trabalho sao projetados dois controladores com oobjetivo de desacoplar e linearizar um manipulador mecanico com incerteza parametrica. O robo estudado possui tres graus deliberdade, sendo que as suas tres juntas sao rotativas. Os dois controladores utilizam redes neuronais. A diferenca entre os dois controladores, alem da arquitetura da rede neuronal usada em cada um, esta no fato de no segundo caso a rede neuronal ser usada em conjunto com atrasadores, o que faz com que a rede neural e os atrasadores formem um sistema dinamico, e nao mais estatico, como no primeiro caso. O treinamento das redes neuronais e feito com autilizacao do algoritmo genetico. O objetivo deste treinamento e fazer com que a saida do sistema controlado (robo) esteja, segundo uma metrica Euclidiana, o mais proximo possivel da saida do modelo de referencia durante um intervalo de tempo pre-estabelecido. Nesta etapa de treinamento o sistema e excitado por uma entrada de referencia em que as tres componentes sao do tipo de grau. Sao avaliados os desempenhos dos dois controladores projetados em casos em que o sistema e excitado ainda por entradas em que astres componentes soa do tipo de grau, porem com amplitudes diferentes das usadas durante o treinamento das redes neuronais.

A aplicação de sistemas dinâmicos para processamento de informações é um tópico promissor de pesquisa. Um excelente exemplo são as redes neurais caóticas. Em geral, o caos tem duas características marcantes, quais são: complexidade dinâmica e grande regularidade. Estas características geram propriedades de sistemas caóticos muito ricas e, ao mesmo tempo, possivelmente tratáveis. A segmentação de cenários é um processo fundamental no processamento sensorial neural, porém o mecanismo neural básico continua bastante desconhecido. Considerações teóricas e estudos neuro-fisiológicos realizados no córtex visual de gatos revelam que a correlação oscilatória da atividade neural desempenha um papel importante no processo de segmentação. Geralmente, modelos de correlação oscilatória por segmentação de cenas requerem um mecanismo para sincronizar neurônios, o qual representa um objeto coerente e, ao mesmo tempo, outro para dessincronizar neurônios, o qual representa objetos diferentes. A principal dificuldade encontrada é tratar ao mesmo tempo estes dois fenômenos opostos: sincronização e assincronização. Chamamos o problema de Dilema da Sincronização-Assincronização: mais forte que a sincronização entre neurônios, mais difícil de conseguir que a assincronização e vice-versa. Para nosso conhecimento todos os modelos de correlação oscilatória esbarram neste problema. Neste trabalho de tese, é apresentada uma rede neural caótica LECON (Locally Excitatory Chaotic Oscillator Network) para tratar o problema supramencionado. É mostrado como o dilema sincronização-assincronização pode ser evitado pela sincronização e assincronização caótica. Com esta finalidade, primeiro é analisada a dinâmica caótica de um oscilador neural tipo Wilson-Cowan; a seguir, condições de sincronização caótica são analiticamente obtidas a partir de um vetor de N osciladores tipo Wilson-Cowan difusamente acoplados. Finalmente, é mostrado que o mecanismo de assincronização em uma rede LECON é garantido pela definição de caos. Comparada com outros modelos de correlação oscilatória, a rede LECON tem quatro características relevantes: 1) capacidade ilimitada de segmentação; 2) segmentação de forma paralela; 3) garantia teórica das funções do modelo; 4) tratamento matemático simples. Este modelo também representa um exemplo das vantagens do uso da dinâmica caótica para processamento de informações.

O treinamento de redes neurais artificiais, que pode ser visto como um problema de otimização, apresenta algumas dificuldades. Os algoritmos existentes para o treinamento de redes não são totalmente eficientes. Alguns apresentam falha de generalização ou baixa velocidade de convergência. Este trabalho propõe uma nova ferramenta para o treinamento de redes neurais artificiais do tipo feedforward chamada Time Assíncrono. O time assíncrono é uma estrutura que utiliza vários algoritmos com características diferentes. Os diferentes algoritmos trabalhando de modo paralelo, através do time assíncrono, aumentam a chance do treinamento obtido ser eficiente. É apresentada uma aplicação numérica do time assíncrono para o treinamento de uma rede neural artificial para reconhecimento de caracteres. Os resultados obtidos nesta análise prática mostra que o time assíncrono melhora o treinamento da rede. O erro quadrático médio obtido com o treinamento usando o time assíncrono é melhor do que os erros obtidos pelos algoritmos trabalhando sozinhos. Todo o trabalho foi realizado utilizando a rede de computadores do laboratório AT&T do tipo IBM-PC. Os algoritmos utilizados foram feitos em ambiente Matlab.

Num sentido geral, qualquer sistema (natural ou artificial) que incorpore informação contida numa amostragem de dados realiza aprendizagem. Dado um conjunto D de amostras que carrega informação sobre sua fonte geradora, existem diferentes medidas para quantificar a aprendizagem sobre ela e, portanto, uma boa representação de tal fonte. Contudo, não estamos interessados numa aprendizagem que apenas torne possível a reprodução de D por um sistema aprendiz, mas principalmente numa que torne possível a geração de novos dados condizentes com a fonte geradora. Portanto, uma vez fixado um sistema (máquina ou algoritmo), aprender significa encontrar um estado do sistema aprendiz que generalize a fonte geradora de D. Em Mecânica Estatística as informações relevantes sobre os estados de qualquer sistema estão contidas em sua função de partição Z. Logo, a inferência de qualquer variável ê obtida tratando-se Z, de forma que o seu conhecimento (cálculo) representa o conhecimento dos estados do sistema, ou seja, do próprio sistema. Num problema de aprendizagem bayesiana a função de partição é representada pela distribuição posterior a D (que já tenha incorporado as informações dos exemplos), P(|D), obtida por meio da regra de Bayes P(A, B) = P(A/B)P(B). Embora a abordagem bayesiana se enquadre originalmente em modelos da Mecânica Estatística em equilíbrio, sua utilização tem sido promissora também em cenários que podem ser interpretados como modelos de mecânica estatística fora do equilíbrio termodinâmico, sendo a aprendizagem de conceitos que mudam no decorrer do processo de aprendizagem um desses problemas que têm atraído bastante atenção. O principal objetivo desta tese foi o estudo da aprendizagem bayesiana quando além do acesso ao conjunto D temos também a informação de que a fonte geradora de D é não-estacionária, introduzindo assim tempo num problema que de outra forma seria classificado como em equilíbrio. Em particular, estudamos a aprendizagem de conceitos com várias formas de dependência temporal por redes neurais (mais especificadamente, perceptrons), para a qual não é necessário modificar a verossimilhança do modelo. Assim nos concentramos na modificação do conhecimento a priori de forma a refletir a possibilidade de envelhecimento dos dados, numa escala de tempo desconhecida. Ao introduzirmos uma distribuição de probabilidades priori para essa escala de tempo, nós encontramos uma distribuição posterior efetiva com uma cauda de decaimento algébrico que resultou num novo algoritmo com uma capacidade de adaptação satisfatória. Também aplicamos esse novo algoritmo na aprendizagem com ruído e discutimos algumas novas possibilidades sobre algoritmos para perceptrons. / In a general sense, any system which incorporates knowledge from sample data can be called a learning machine (natural or artificial). Given a set D of samples which carries information about a rule, there are different measures of how much a system has learnt about the rule and therefore comprises a good representation of its. We are not only interested in learning that can reproduce D, but also generate new consistent data. Therefore, once fixed a system (a machine or an algorithm), to learn means to find a state of the system that generalizes the source rule of D. We looked at Bayesian formulations of the learning problem, which is a formalism identical to Statistical Mechanics. Relevant knowledge about a given system is encoded in a partition function Z. Then, any inference can be made by treating Z, and if we know Z we know the system\'s properties. The function Z is the posterior distribution P(|D) in the Bayesian approach, calculated by the Bayes\' rule P(A, B) = P(A/B)P(B). Although the Bayesian theory is naturally paralleled in equilibrium Statistical Mechanics, it holds the promise of leading to results in problems that can be classified as non-equilibrium. One of this problems that has been the subject of increasing attention is that of learning non-stationary concepts The aim of this thesis was to study Bayesian learning when in addition to the knowledge to the data set D we have the information that the rule which gave rise to the samples is non-stationary, thereby introducing time into what would otherwise, have been an equilibrium problem. ln particular we studied learning of several forms of time dependent concepts by neural networks (more specifically, perceptrons), for which there is no need to change the likelihood. We concentrated on changing the prior knowledge in a way that reflects the aging possibility of the data on an unknown time scale. By introducing a prior probability distribution for the time scale, we found a effective posterior distribution with an algebraic decaying tail, which resulted in a new algorithm that was able to adapt satisfactory. We also applied the new algorithm to the learning with noise data and discussed some new possibilities about algorithms for perceptrons.

Orientadores: Wagner Caradori do Amaral, Lucia Valeria R. de Arruda / Tese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Eletrica e de Computação / Made available in DSpace on 2018-07-23T06:01:11Z (GMT). No. of bitstreams: 1 Silva_IvanNunesda_D.pdf: 8988554 bytes, checksum: 75aa61f1a4a1444c73e7b3e7f3e42f48 (MD5) Previous issue date: 1997 / Resumo: A habilidade de redes neurais em solucionar problemas complexos e variados, as tornam uma abordagem atrativa a ser aplicada em diversas áreas de engenharia e ciências. Uma rede neural é basicamente composta de inúmeros elementos processadores simples com um alto grau de conectividade entre eles. Esta tese propõe uma arquitetura de uma rede neural artificial aplicável na solução de problemas de otimização com restrições. Mais especificamente, um modelo baseado na rede de Hopfield é proposto para resolver diferentes tipos de problemas de otimização, incluindo problemas de programação dinâmica e otimização combinatorial, e também problemas de identificação robusta com erro desconhecido mas limitado. Um sistema baseado em lógica nebulosa é desenvolvido com o propósito de conduzir, de forma eficiente, a convergência da rede em direção a seus pontos de equilíbrio. Os parâmetros internos da rede, associados às restrições, são derivados utilizando a técnica de subespaço válido de soluções. Resultados de simulações são apresentados para ilustrar o desempenho da abordagem proposta / Abstract: The ability of artificial neural networks to solve complex and diversified problems make them attractive for application in many áreas of engineering and science. A neural network is basically composed of many simple processing elements with a high degree of connectivity among them. This thesis presents an architecture of artificial neural network to apply in optimization problems with constraints. More specifically, a topology based in the Hopfield networks is proposed to solve some optimization problems, including dynamic programming and combinatorial optimization, and also robust parametric identification problems with unknown-but-bounded disturbance. In this case, the network is used to calculate the parametric uncertainty intervals and the feasible membership set for model parameters. A rule-based fuzzy system has been developed in order to improve the efficiency and the network convergence to the equilibrium points. The internal parameters of the network, associated with the constraints imposed by a specific problem, are explicitally computed using a valid-subspace technique. Simulation results are provided to illustrate the performance of the proposed approach / Doutorado / Doutor em Engenharia Elétrica