The low complexity of IIR adaptive filters (AFs) is specially appealing to realtime applications but some drawbacks have been preventing their widespread use so far. For gradient based IIR AFs, adverse operational conditions cause convergence problems in system identification scenarios: underdamped and clustered poles, undermodelling or non-white input signals lead to error surfaces where the adaptation nearly stops on large plateaus or get stuck at sub-optimal local minima that can not be identified as such a priori. Furthermore, the non-stationarity in the input regressor brought by the filter recursivity and the approximations made by the update rules of the stochastic gradient algorithms constrain the learning step size to small values, causing slow convergence. In this work, we propose IIR performance enhancement strategies based on hybrid combinations of AFs that achieve higher convergence rates than ordinary IIR AFs while keeping the stability. / A baixa complexidade dos filtros adaptativos (FAs) IIR é atrativa para aplicações em tempo real, mas certos inconvenientes têm impedido sua ampla utilização até agora. Para os FAs baseados no gradiente descendente, condições operacionais adversas suscitam problemas de convergência em cenários de identificação de sistemas: pólos subamortecidos ou agrupados, submodelagem ou sinais correlacionados originam superfícies de erro onde a adaptação desacelera em grandes planícies ou para em mínimos locais sub-ótimos que não podem ser identificados como tais a priori. Além disso, a não-estacionaridade do regressor de entrada causada pela recursividade do filtro e as aproximações feitas pelas regras de atualização dos algoritmos de gradiente estocástico restringem o passo de aprendizado a valores pequenos, retardando a convergência. Neste trabalho, propomos estratégias de aprimoramento de desempenho baseadas em combinações híbridas e estáveis de FAs que alcançam taxas de convergências mais altas do que FAs IIR comuns.

Redes inteligentes de antenas vêm ganhando uma importância cada vez maior na expansão e no aperfeiçoamento de sistemas de telefonia celular, principalmente para sistemas de 3a geração, que necessitarão de uma banda de transmissão ainda maior. Neste sentido, são muitas as contribuições da comunidade científica para este tema, com o objetivo de determinar a direção de chegada dos sinais incidentes na rede, de diminuir a interferência de um sinal sobre o outro e de sintetizar diagramas de radiação desejados. Na maior parte dos casos, porém, as antenas utilizadas nas simulações são consideradas ideais, desprezando-se os efeitos de acoplamento mútuo entre os seus elementos. Neste trabalho, através de simulações numéricas, é analisado o impacto da utilização de antenas reais no desempenho de sistemas de antenas inteligentes, levando-se em conta todas as características intrínsecas como acoplamento mútuo e diagramas de radiação reais dos seus elementos. Além disso, são propostas soluções para a utilização de redes de antenas reais através de métodos e procedimentos que possam contribuir para melhor precisão e confiabilidade dos resultados correspondentes. Dessa forma, é apresentado um método de processamento adaptativo em rede ideal equivalente, que leva a uma solução para formação de feixe em enlace de descida de sistemas de telefonia celular, utilizando-se uma transformação de rede real em rede ideal. É também investigada a dependência de velocidade de convergência e dos erros resultantes no processo acima citado em função da escolha da geometria da rede ideal. Apresenta-se, ainda, uma nova configuração de rede com redução de acoplamento mútuo, investigando-se a melhoria de características como nível de lóbulos secundários e precisão na determinação de direção de chegada de sinais em redes de antenas inteligentes. / Smart antenna arrays are becoming more important in the expansion and in the enhancement of cellular telephony systems, specially in the third-generation that will need an even larger bandwidth. In this subject, many contributions from the scientific community have been provided with the goal of determining direction-of-arrival for incident signals, eliminating interference between different signals and of synthesizing desired radiation patterns. On most cases, however, the antennas employed in the simulations are ideal antennas, where one disregards the mutual coupling effects between each pair of elements. In this work, the impact of using real antennas in the behavior of smart antenna systems is analyzed through numerical simulations, taking into account intrinsic features such as mutual coupling and real radiation patterns of its elements. On top of that, solutions are proposed for the utilization of real antenna arrays through methods and procedures that may contribute to a better precision and reliability of the related results. In this sense, it is initially presented an adaptive process method that leads to a solution for downlink beamforming in cellular systems, using a transformation of the real array into an ideal array. The dependence of convergence speed and errors on the choice of the ideal array geometry is also investigated. Next, a new array configuration with reduced mutual coupling is presented, and improvements in characteristics such as secondary lobe level and direction-of-arrival determination precision on smart antenna arrays are investigated.

A combinação de algoritmos tem despertado interesse para melhorar o desempenho de filtros adaptativos. Esse método consiste em combinar linearmente as saídas de dois filtros operando em paralelo com passos de adaptação diferentes para se obter um filtro com conver- gência rápida e um erro quadrático médio em excesso (EMSE - excess mean squared error) reduzido. Nesse contexto, foi proposta a combinação afim de dois algoritmos LMS (least-mean square), cujo parâmetro de mistura não fica restrito ao intervalo [0, 1] e por isso é considerada como uma generalização da combinação convexa. Neste trabalho, a combinação afim de dois algoritmos LMS é estendida para os algoritmos supervisionados NLMS (normalized LMS) e RLS (recursive least squares) e também para equalização autodidata, usando o CMA (constant modulus algorithm). Foi feita uma análise em regime da combinação afim desses algoritmos de forma unificada, considerando entrada branca ou colorida e ambientes estacionários ou não- estacionários. Através dessa análise, verificou-se que a combinação afim de dois algoritmos da mesma família pode apresentar uma redução de EMSE de até 3 dB em relação ao EMSE de seus filtros componentes e conseqüentemente ao EMSE da combinação convexa. Para garantir que a estimativa combinada seja pelo menos tão boa quanto a do melhor filtro componente, foram propostos e analisados três novos algoritmos para adaptação do parâmetro de mistura. Utilizando resultados da análise desses algoritmos em conjunto com os resultados da análise de transitório de filtros adaptativos, analisou-se o comportamento transitório da combinação afim. Através de simulações, observou-se uma boa concordância entre os resultados analíticos e os de simulação. No caso de equalização autodidata, também foi proposta uma combinação de dois equalizadores CMA com inicializações diferentes. Verificou-se através de simulações que em alguns casos a combinação afim é capaz de evitar a convergência para mínimos locais da função custo do módulo constante. / In order to improve the performance of adaptive filters, the combination of algorithms is receiving much attention in the literature. This method combines linearly the outputs of two filters operating in parallel with different step-sizes to obtain an adaptive filter with fast convergence and reduced excess mean squared error (EMSE). In this context, it was proposed an affine combination of two least-mean square (LMS) filters, whose mixing parameter is not restricted to the interval [0, 1]. Hence, the affine combination is a generalization of the convex combination. In this work, the affine combination of two LMS algorithms is extended to the supervised algorithms NLMS (normalized LMS) and RLS (recursive least squares), and also to blind equalization, using the constant modulus algorithm (CMA). A steady-state analysis of the affine combination of the considered algorithms is presented in a unified manner, assuming white or colored inputs, and stationary or nonstationary environments. Through the analysis, it was observed that the affine combination of two algorithms of the same family can provide a 3 dB EMSE gain in relation to its best component filter and consequently in relation to the convex combination. To ensure that the combined estimate is at least as good as the best of the component filters, three new algorithms to adapt the mixing parameter were proposed and analyzed. Using the analysis results of these algorithms in conjunction with the results of the transient analysis of adaptive filters, the transient behavior of the affine combination was analyzed. Through simulations, a good agreement between analytical and experimental results was always observed. In the blind equalization case, a combination of two CMA equalizers with different initializations was also proposed. The simulation results suggest that the affine combination can avoid local minima of the constant modulus cost function.

This thesis is concerned with the issue of the regularization of the Recursive Least-Squares (RLS) algorithm. In the first part of the thesis, a novel regularized exponentially weighted array RLS algorithm is developed, which circumvents the problem of fading regularization that is inherent to the standard regularized exponentially weighted RLS formulation, while allowing the employment of generic time-varying regularization matrices. The standard equations are directly perturbed via a chosen regularization matrix; then the resulting recursions are extended to the array form. The price paid is an increase in computational complexity, which becomes cubic. The superiority of the algorithm with respect to alternative algorithms is demonstrated via simulations in the context of adaptive beamforming, in which low filter orders are employed, so that complexity is not an issue. In the second part of the thesis, an alternative criterion is motivated and proposed for the dynamical regulation of regularization in the context of the standard RLS algorithm. The regularization is implicitely achieved via dithering of the input signal. The proposed criterion is of general applicability and aims at achieving a balance between the accuracy of the numerical solution of a perturbed linear system of equations and its distance from the analytical solution of the original system, for a given computational precision. Simulations show that the proposed criterion can be effectively used for the compensation of large condition numbers, small finite precisions and unecessary large values of the regularization. / Esta tese trata da regularização do algoritmo dos mínimos-quadrados recursivo (Recursive Least-Squares - RLS). Na primeira parte do trabalho, um novo algoritmo array com matriz de regularização genérica e com ponderação dos dados exponencialmente decrescente no tempo é apresentado. O algoritmo é regularizado via perturbação direta da inversa da matriz de auto-correlação (Pi) por uma matriz genérica. Posteriormente, as equações recursivas são colocadas na forma array através de transformações unitárias. O preço a ser pago é o aumento na complexidade computacional, que passa a ser de ordem cúbica. A robustez do algoritmo resultante ´e demonstrada via simula¸coes quando comparado com algoritmos alternativos existentes na literatura no contexto de beamforming adaptativo, no qual geralmente filtros com ordem pequena sao empregados, e complexidade computacional deixa de ser fator relevante. Na segunda parte do trabalho, um critério alternativo ´e motivado e proposto para ajuste dinâmico da regularização do algoritmo RLS convencional. A regularização é implementada pela adição de ruído branco no sinal de entrada (dithering), cuja variância é controlada por um algoritmo simples que explora o critério proposto. O novo critério pode ser aplicado a diversas situações; procura-se alcançar um balanço entre a precisão numérica da solução de um sistema linear de equações perturbado e sua distância da solução do sistema original não-perturbado, para uma dada precisão. As simulações mostram que tal critério pode ser efetivamente empregado para compensação de números de condicionamento (CN) elevados, baixa precisão numérica, bem como valores de regularização excessivamente elevados.

Nas últimas décadas, vários sistemas de comunicação baseados em sincronismo caótico têm sido propostos na literatura como alternativa a sistemas de espalhamento espectral que melhoram o nível de privacidade na transmissão da mensagem. No entanto, devido à falta de robustez do sincronismo caótico, um pequeno nível de ruído ou uma simples imperfeição no canal é suficiente para impedir a comunicação. Neste trabalho, equalizadores adaptativos são utilizados para permitir a comunicação em um sistema de comunicação baseado em caos quando a resposta em frequência do canal não é ideal. São propostos algoritmos de equalização baseados em versões modificadas do algoritmo normalized least-mean-squares para a versão de tempo discreto do sistema de comunicação baseado no modelo de sincronismo de Wu e Chua. Para esses algoritmos, é calculado o intervalo para a escolha do passo de adaptação para evitar a divergência. Como geradores de sinais caóticos (GSC), são utilizados os mapas de Hénon e de Ikeda e, para a codificação da mensagem, são consideradas duas funções, sendo uma baseada na multiplicação da mensagem por um dos estados do GSC e a outra baseada na soma da mensagem com um dos estados do GSC. Os resultados de simulação indicam que os algoritmos propostos são capazes de equalizar o canal de comunicação e permitir o sincronismo caótico em diferente cenários. / In the last decades, many communication systems applying synchronism of chaotic systems have been proposed as an alternative spread spectrum modulation that improves the level of privacy in data transmission. However, due to the lack of robustness of chaos synchronization, even a low level of noise or minor channel imperfections are enough to hinder communication. In this work, adaptive equalizers are used to enable chaotic synchronization when the communication channel is not ideal. Adaptive equalization algorithms are proposed based on a modified version of the normalized least-mean-squares algorithm, considering the discrete-time version of the communication system based on Wu and Chuas synchronization model. For these algorithms, the interval for the choice of the step-size is computed, in order to avoid divergence. The Hénon and the Ikeda maps are used as chaotic signal generators (CSG) and two functions are considered to encode the message, one based on the multiplication of the message by one of the states of the CSG and the other based on the addition of the message to one of the states of the CSG. Simulation results show that the proposed algorithms can successfully equalize the channel in different scenarios.

Uma vez escolhida a técnica da híbrida para a transmissão digital banda básica "full duplex" em um par de fios, este trabalho consiste em obter as respostas impulsivas do sistema (canal e eco), fazer o cancelamento de eco e a equalização do canal (usando DFE-"Decision Feedback Equalizer") através de filtragem adaptativa e obter o desempenho do sistema completo através do cálculo da probabilidade de erro. Simulamos em computador digital os filtros adaptativos (cancelador de eco e equalizador) que usam o algoritmo LMS ("Least Mean Square") nas estruturas transversal e "lookup table". Através da observação da f.d.p. (função densidade de probabilidade) do sinal entrante no elemento de decisão dos pulsos recebidos, após convergências dos filtros adaptativos, foi obtida um método analítico de cálculo da probabilidade de erro Pe.

Este trabalho reporta a modelagem numérica de fibras ópticas de polímero, sensores refractométricos e filtros dicróicos operando na faixa de Terahertz (THz). Na classe de fibras são apresentados estudos teóricos de guias dielétricos cilíndricos sólidos (microwires) com casca de ar, além de tubos e fibras porosas que têm alta fração de preenchimento de ar em seu núcleo microestruturado, que resultam em baixas perdas e alto confinamento modal nas regiões de baixo índice. Também são apresentadas fibras altamente birrefringentes e, pela primeira vez, resultados para um sensor refractométrico baseado em estruturas monomodo-multimodo-monomodo (singlemode-multimode-singlemode-SMS) com aplicação em THZ, que apresenta uma sensibilidade 0,52 MHz/RIU para uma faixa de índices de refração de 1,4 a 1,5. Por fim, filtros dicróicos são estudados analítica e numericamente. Estes apresentaram boa concordância com resultados experimentais da literatura. Isto nos permitiu utilizar destes métodos numéricos para avaliar e projetar novas estruturas de filtros. Softwares comerciais, baseados em diferentes métodos numéricos foram empregados para realização das simulações.

Uma forma de se reduzir o custo (em termos tanto de área de chip quanto de consumo de energia) de algoritmos de processamento de sinais é empregar aritmética de ponto fixo, usando o menor número de bits possível para se representar as variáveis e coeficientes necessários. Com isso, consegue-se reduzir a complexidade do hardware, levando a economias de energia e de área de chip em circuitos dedicados. A escolha do nível de quantização a que cada variável deve ser submetida depende de se conhecer o efeito da quantização de cada variável nas saídas do sistema, o que pode ser conseguido através de simulações (em geral lentas) ou por métodos analíticos. Este documento propõe avanços a uma nova metodologia de análise de algoritmos para processamento digital de sinais implementados em aritmética de ponto fixo, usando modelos baseados em cadeias de Markov. As contribuições desta dissertação são as seguintes: Filtros IIR de primeira e de segunda ordem são analisados via cadeia de Markov, pressupondo que a entrada possui uma função densidade de probabilidade conhecida. O modelo é desenvolvido de forma geral, de forma que pode ser considerada uma função de densidade de probabilidade qualquer. A saída dos filtros é usada para definir os estados da cadeia. O modelo via cadeia de Markov para o coeficiente do algoritmo LMS unidimensional é estendido para entrada correlacionada. Nesse caso, os estados passam a ser descritos em termos do coeficiente e do da entrada anterior. Um exemplo assumido função de densidade de probabilidade de entrada gaussiana para o filtro adaptativo é apresentado. / The implementation cost of signal processing algorithms may be reduced by using fixed-point arithmetic with the smallest possible word-length for each variable or parameter. This allows the designer to reduce hardware complexity, leading to economy of energy and chip area in dedicated circuits. The choice of word-length depends on the determination of the effect at the output of the quantization of each variable, which may be obtained through simulations (generally slow) or through analytical methods. This document proposes new advances to a new analysis method for digital signal processing algorithms implemented in fixed-point arithmetic, based on Markov chain models. Our contributions are the following: A Markov chain model is used to study first and second order IIR filters for an known input density probability function. The model is general and can be applied for any probability function. We use the output of the filters to define the states of the Markov chain. The unidimensional LMS Markov chain model is extended to correlated input. The states are defined by a pair considering the coefficient and the previous input and an example assuming Gaussian-distributed input is presented.

O objetivo da desconvolução autodidata de imagens é reconstruir a imagem original a partir de uma imagem degradada sem usar informação da imagem real ou da função de degradação. O processo de reconstrução é crítico em aplicações em que a imagem original ou suas características estatísticas não são conhecidas. Fazendo um mapeamento da imagem digital antes de sua transmissão, ela pode ser interpretada como um sinal de comunicação com modulação do tipo PAM (Pulse Amplitude Modulation). Utilizando essa interpretação, técnicas clássicas de equalização de canais de comunicação podem ser usadas para restauração de imagens. Além disso, é usual considerar os pixels de uma imagem como um sinal não-estacionário, o que justifica o uso de algoritmos adaptativos. Neste trabalho, técnicas adaptativas usadas em equalização de canais de comunicação são aplicadas para restauração de imagens. Inicialmente, é proposta uma nova técnica de varredura a fim de minimizar alterações bruscas no sinal de entrada do filtro adaptativo. Utilizando o algoritmo Least Mean Squares, obtém-se uma equivalência entre funções de degradação de imagens e canais de comunicação variantes no tempo. Isso possibilitou comparar algumas funções de degradação com relação à distorção causada em imagens. Em seguida, usando um rearranjo dos elementos da matriz de entrada em um vetor, o algoritmo multimódulo regional (RMMA - Region-based Multimodulus Algorithm) foi estendido para restauração de imagens. Esse algoritmo é então usado para adaptação dos coeficientes do equalizador linear transversal e também do equalizador de decisão realimentada. Cabe observar que o RMMA trata um sinal de módulo não-constante como se fosse de módulo constante, o que proporciona um desempenho melhor quando comparado ao algoritmo do módulo constante (CMA - Constant Modulus Algorithm) convencional, usado em equalização autodidata de canais de comunicação. Esse comportamento também foi observado na reconstrução de imagens, através das simulações apresentadas nesta dissertação. Este estudo abre novas perspectivas de extensão de técnicas usadas em equalização de canais de comunicação para restauração imagens. Uma delas é a possibilidade de restauração de imagens coloridas usando diversidade espacial. / The aim of blind image deconvolution is to reconstruct the original scene from a degraded observation without using information about the true image and the point spread function. The restoration process is critical in applications, where the true image or its statistical characteristics are unknown. Mapping the pixels of the original image before its transmission, the mapped image can be interpreted as a pulse amplitude modulation (PAM) signal, used in communications systems. With this interpretation, classic equalization techniques of communication channels can be used to image restoration. Furthermore, the pixels of a true image constitute a nonstationary signal, which justifies the use of adaptive filters. In this dissertation, adaptive techniques used for equalization of communication channels are applied to image restoration. Firstly, we propose a new update path through the blurred image that consists in a combination of horizontal and vertical alternate paths. This update path minimizes the problem of abrupt changes in the adaptation of the filter and provides better conditions to the image recovery. Using the least mean squares (LMS) algorithm, we obtain an equivalence between a point spread function and a time-variant communication channel. This equivalence was used to compare some point spread functions in relation to the distortion caused in images. Secondly, reshaping the input matrix into a column vector, we extend the regional-based multimodulus algorithm (RMMA) to blind image deconvolution. This algorithm is used to update the coefficients of the linear transversal equalizer and also of the decision feedback equalizer. RMMA treats nonconstant modulus signals as constant modulus ones, which provides a better performance when compared to the conventional constant modulus algorithm (CMA), used in blind equalization of communication channels. This behavior was also observed in image restoration, through the simulations presented in this dissertation. This study pushes back the frontiers of image processing, since different techniques used in equalization can be extended to image restoration. One of the new possibilities is the color image restoration using the spatial diversity.

Em algumas ocasiões o uso de aparelhos é necessário para melhorar a audição de deficientes auditivos. Para melhorar a clareza das ligações telefônicas dessas pessoas, há interesse em aparelhos telefônicos que desempenham função semelhante aos aparelhos de audição (hearing aids), amplificando adequadamente o sinal recebido do outro lado da conexão. Um dos maiores problemas com tais aparelhos é que a malha fechada que inclui o retorno local na híbrida telefônica e o acoplamento acústico entre o alto-falante e o microfone do aparelho pode se tornar instável devido à introdução da amplificação, dando origem a microfonia. Uma abordagem típica deste problema nos aparelhos de audição é feita mediante o cancelamento adaptativo do eco acústico. No caso sendo considerado aqui, porém, também é possível eliminar a microfonia fazendo o cancelamento adaptativo do retorno local na híbrida, abordagem que é mais simples, devido à resposta impulsiva mais curta a ser compensada e sua menor variação temporal. Portanto, esta dissertação tem como objetivo o desenvolvimento de um cancelador de retorno local usando filtragem adaptativa para fins de impedir a microfonia num aparelho telefônico para deficientes auditivos. Para uma efetiva compensação de um determinado grau de deficiência auditiva, será visto que pode ser desejável em algum momento introduzir até uma certa quantidade de ganho em alguma frequência, sendo que a viabilidade disso depende da efetividade do cancelamento do retorno local, é definida uma medida de desempenho dos filtros adaptativos usados em termos da amplificação máxima que pode ser introduzida graças ao cancelamento do retorno local sem provocar microfonia. Considerando esta medida de desempenho, foi definido um objetivo de 55 dB de amplificação máxima a ser alcançado pelo cancelamento do retorno local. Verificamos então que o uso dos algoritmos LMS (least mean square), e-NLMS (normalized least mean square ) e RLS (recursive least squares) não alcança este objetivo com sinal de fala como entrada. Visto isto, a adaptação antes da conversação é avaliada com sinal branco gaussiano como entrada, acrescentando-se um filtro notch para eliminar o tom de discar. Os resultados mostram que o algoritmo LMS é suficiente para alcançar o objetivo mencionado. / On some occasions the use of apparatus are needed to improve the deafness of hearing impaired. To improve the clarity of the telephonic connections of these people, there is interest in telephone sets that exert similar function to the hearing aids, properly amplifying the received signal of the another side of the connection. One of the main problems with such apparatus is that the closed loop that includes local return in the telephone hybrid and acoustic coupling between the capsule and the microphone of the telephone set would become unstable due to the introduction of amplification, producing howling. A typical approach to this problem in hearing aids is made by the adaptive acoustic echo cancellation. In this case, however, it is also possible to eliminate howling by the adaptive local return cancellation in the hybrid, which is a simpler approach, due to shorter impulse response to be compensated and their lower temporal variation. Therefore, the goal of this dissertation is to develop a local return canceller using adaptive filtering for the purpose of preventing howling in a telephone set for hearing impaired. For an effective compensation of a certain degree of hearing impairment, it will be seen that it may be desirable at some point to introduce up to a certain amount of gain at some frequency. Whereas the viability of this depends on the effectiveness of the cancellation of the local return, a performance measure of used adaptive filters in terms of the maximum amplification which may be released due to the cancellation of the local return is defined without causing howling. Considering this performance measure was set a goal of 55 dB of maximum gain to be achieved by the local return cancelling. We verify then that the use of the LMS (least mean square), e-NLMS (normalized least mean square) and RLS (recursive least squares) algorithms doesn\'t attain this goal with speech signal as input. Therefore, adaptation before the conversation is evaluated, with white gaussian signal as input, adding a notch filter to eliminate the dial tone. The results show that the LMS algorithm is sufficient to achieve the mentioned goal.