Neste trabalho, investigam-se técnicas autodidatas baseadas em estatísticas de ordem superior, aplicadas à equalização de canais de comunicação. Inicialmente, obtém-se um intervalo do passo de adaptação que assegura a convergência do algoritmo do Módulo Constante com o gradiente exato. Algoritmos como o CMA (Constant Modulus Algorithm) e o SWA (Shalvi-Weinstein Algorithm) são revisitados e suas capacidades de tracking analisadas, utilizando-se uma relação de conservação de energia. Além disso, é proposto um algoritmo autodidata denominado AC-CMA (Accelerated Constant Modulus Algorithm) que utiliza a segunda derivada (“aceleração") da estimativa dos coeficientes. Esse algoritmo pode apresentar um compromisso mais favorável entre complexidade computacional e velocidade de convergência que o CMA e o SWA. Esses resultados são estendidos para o caso multiusuário. Através de simulações, os algoritmos são comparados e as análises de convergência e tracking validadas. Considerando o DFE (Decision Feedback Equalizer) no caso monousuário com o critério do módulo constante, é proposto um algoritmo concorrente que evita soluções degeneradas e apresenta um desempenho melhor do que os existentes na literatura. Com o intuito de evitar propagação de erros, é proposta uma estrutura híbrida que utiliza uma rede neural recorrente na malha de realimentação. Resultados de simulações indicam que seu uso pode ser vantajoso para canais lineares e não-lineares. / The equalization of communication channels is addressed by using blind techniques based on higher order statistics. A step-size interval is obtained to ensure the convergence of Steepest-Descent Constant Modulus Algorithm. The Shalvi-Weinstein Algorithm (SWA) and Constant Modulus Algorithm (CMA) are revisited and their tracking capabilities are analyzed by using an energy conservation relation. Moreover, a novel blind algorithm named Accelerated Constant Modulus Algorithm (AC-CMA) is proposed. It adjusts the second derivative (“acceleration") of the coefficient estimates and presents a more favorable compromise between computational complexity and convergence rate than CMA or SWA. These results are extended to the MIMO (Multiple-Input Multiple-Output) case. By means of simulations, the algorithms are compared and the convergence and tracking analysis are validated. The Decision Feedback Equalizer (DFE) is considered in the SISO (Single-Input Single-Output) case with the Constant Modulus criterion and a concurrent algorithm is proposed. It avoids degenerated solutions and shows better behavior than the others presented in the literature. In order to avoid error propagation, a hybrid DFE is also proposed. It includes a recurrent neural network in the feedback filter and may be advantageously used to equalize linear and nonlinear channels.

Neste trabalho, investigam-se técnicas autodidatas baseadas em estatísticas de ordem superior, aplicadas à equalização de canais de comunicação. Inicialmente, obtém-se um intervalo do passo de adaptação que assegura a convergência do algoritmo do Módulo Constante com o gradiente exato. Algoritmos como o CMA (Constant Modulus Algorithm) e o SWA (Shalvi-Weinstein Algorithm) são revisitados e suas capacidades de tracking analisadas, utilizando-se uma relação de conservação de energia. Além disso, é proposto um algoritmo autodidata denominado AC-CMA (Accelerated Constant Modulus Algorithm) que utiliza a segunda derivada (“aceleração”) da estimativa dos coeficientes. Esse algoritmo pode apresentar um compromisso mais favorável entre complexidade computacional e velocidade de convergência que o CMA e o SWA. Esses resultados são estendidos para o caso multiusuário. Através de simulações, os algoritmos são comparados e as análises de convergência e tracking validadas. Considerando o DFE (Decision Feedback Equalizer) no caso monousuário com o critério do módulo constante, é proposto um algoritmo concorrente que evita soluções degeneradas e apresenta um desempenho melhor do que os existentes na literatura. Com o intuito de evitar propagação de erros, é proposta uma estrutura híbrida que utiliza uma rede neural recorrente na malha de realimentação. Resultados de simulações indicam que seu uso pode ser vantajoso para canais lineares e não-lineares. / The equalization of communication channels is addressed by using blind techniques based on higher order statistics. A step-size interval is obtained to ensure the convergence of Steepest-Descent Constant Modulus Algorithm. The Shalvi-Weinstein Algorithm (SWA) and Constant Modulus Algorithm (CMA) are revisited and their tracking capabilities are analyzed by using an energy conservation relation. Moreover, a novel blind algorithm named Accelerated Constant Modulus Algorithm (AC-CMA) is proposed. It adjusts the second derivative (“acceleration”) of the coefficient estimates and presents a more favorable compromise between computational complexity and convergence rate than CMA or SWA. These results are extended to the MIMO (Multiple-Input Multiple-Output) case. By means of simulations, the algorithms are compared and the convergence and tracking analysis are validated. The Decision Feedback Equalizer (DFE) is considered in the SISO (Single-Input Single-Output) case with the Constant Modulus criterion and a concurrent algorithm is proposed. It avoids degenerated solutions and shows better behavior than the others presented in the literature. In order to avoid error propagation, a hybrid DFE is also proposed. It includes a recurrent neural network in the feedback filter and may be advantageously used to equalize linear and nonlinear channels.

Submitted by Divisão de Documentação/BC Biblioteca Central (ddbc@ufam.edu.br) on 2017-02-07T15:52:02Z No. of bitstreams: 2 license_rdf: 0 bytes, checksum: d41d8cd98f00b204e9800998ecf8427e (MD5) Dissertação - Pedro D. Tomaz Junior.pdf: 6136519 bytes, checksum: 21e83b579813ab418ea96fd0f8e1c2ff (MD5) / Approved for entry into archive by Divisão de Documentação/BC Biblioteca Central (ddbc@ufam.edu.br) on 2017-02-07T15:52:19Z (GMT) No. of bitstreams: 2 license_rdf: 0 bytes, checksum: d41d8cd98f00b204e9800998ecf8427e (MD5) Dissertação - Pedro D. Tomaz Junior.pdf: 6136519 bytes, checksum: 21e83b579813ab418ea96fd0f8e1c2ff (MD5) / Approved for entry into archive by Divisão de Documentação/BC Biblioteca Central (ddbc@ufam.edu.br) on 2017-02-07T15:52:38Z (GMT) No. of bitstreams: 2 license_rdf: 0 bytes, checksum: d41d8cd98f00b204e9800998ecf8427e (MD5) Dissertação - Pedro D. Tomaz Junior.pdf: 6136519 bytes, checksum: 21e83b579813ab418ea96fd0f8e1c2ff (MD5) / Made available in DSpace on 2017-02-07T15:52:38Z (GMT). No. of bitstreams: 2 license_rdf: 0 bytes, checksum: d41d8cd98f00b204e9800998ecf8427e (MD5) Dissertação - Pedro D. Tomaz Junior.pdf: 6136519 bytes, checksum: 21e83b579813ab418ea96fd0f8e1c2ff (MD5) Previous issue date: 2016-06-10 / CAPES - Coordenação de Aperfeiçoamento de Pessoal de Nível Superior / In this work, we present an investigation about blind source separation. Blind source separation, currently widely researched, is applied in many areas of knowledge, being here evaluated in the musical context, with Brazilian percussion instruments. The approached separation techniques are described: the NMF (nonnegative matrix factorization) along with its extension NMFD (non-negative matrix factor deconvolution), and the spectrogram median ltering which are essentially di erent, but combined in this thesis to separate percussive mixture signals. The term mixture identi es an audio track where two or more instruments are playing together. The two main contributions of this dissertation are: the investigation of blind source separation techniques applied to the signals' subbands and a recorded database of Brazilian percussion instruments. Other source separation systems are proposed; they combine the use of subbands, the NMF, and the median lter in various arrangements to enhance the mixture separations results. Futhermore, the e ect of the mixture quality on the system performance are evaluated. Mixtures with high reverberation times have been produced with the aid of a professional simulation software to test the proposed systems. / Apresenta-se, nesta dissertação, uma investigação sobre separação cega de fontes. O tema, atualmente bastante pesquisado, encontra aplicação em diversas áreas, sendo aqui explorado no contexto musical de instrumentos de percussão presentes na cultura brasileira. São descritas as técnicas de separação utilizadas: a fatora ção de matrizes não-negativas (NMF, non-negative matrix factorization ) e uma de suas extensões (NFMD non-negative matrix factor deconvolution ), e a ltragem do espectrograma por mediana que possuem naturezas distintas mas são reunidas neste trabalho para separar misturas percussivas. O termo mistura identi ca uma faixa de áudio onde dois ou mais instrumentos tocam juntos. As duas contribuições principais desta dissertação são: a investigação das técnicas de separação de fontes aplicadas às sub-bandas do sinal e a geração de uma base de dados de instrumentos de percussão brasileira. São propostos, ainda, sistemas de separação envolvendo sub-bandas, NMF e ltragem por mediana em diversos arranjos, com o propósito de aprimorar a separação das misturas. Além disso, o efeito da qualidade da mistura sobre o sistema de separação é avaliado. Misturas com alto grau de reverberação são geradas através de software pro ssional de simulação para colocar o sistema à prova.