Neste trabalho, investigam-se técnicas autodidatas baseadas em estatísticas de ordem superior, aplicadas à equalização de canais de comunicação. Inicialmente, obtém-se um intervalo do passo de adaptação que assegura a convergência do algoritmo do Módulo Constante com o gradiente exato. Algoritmos como o CMA (Constant Modulus Algorithm) e o SWA (Shalvi-Weinstein Algorithm) são revisitados e suas capacidades de tracking analisadas, utilizando-se uma relação de conservação de energia. Além disso, é proposto um algoritmo autodidata denominado AC-CMA (Accelerated Constant Modulus Algorithm) que utiliza a segunda derivada (“aceleração") da estimativa dos coeficientes. Esse algoritmo pode apresentar um compromisso mais favorável entre complexidade computacional e velocidade de convergência que o CMA e o SWA. Esses resultados são estendidos para o caso multiusuário. Através de simulações, os algoritmos são comparados e as análises de convergência e tracking validadas. Considerando o DFE (Decision Feedback Equalizer) no caso monousuário com o critério do módulo constante, é proposto um algoritmo concorrente que evita soluções degeneradas e apresenta um desempenho melhor do que os existentes na literatura. Com o intuito de evitar propagação de erros, é proposta uma estrutura híbrida que utiliza uma rede neural recorrente na malha de realimentação. Resultados de simulações indicam que seu uso pode ser vantajoso para canais lineares e não-lineares. / The equalization of communication channels is addressed by using blind techniques based on higher order statistics. A step-size interval is obtained to ensure the convergence of Steepest-Descent Constant Modulus Algorithm. The Shalvi-Weinstein Algorithm (SWA) and Constant Modulus Algorithm (CMA) are revisited and their tracking capabilities are analyzed by using an energy conservation relation. Moreover, a novel blind algorithm named Accelerated Constant Modulus Algorithm (AC-CMA) is proposed. It adjusts the second derivative (“acceleration") of the coefficient estimates and presents a more favorable compromise between computational complexity and convergence rate than CMA or SWA. These results are extended to the MIMO (Multiple-Input Multiple-Output) case. By means of simulations, the algorithms are compared and the convergence and tracking analysis are validated. The Decision Feedback Equalizer (DFE) is considered in the SISO (Single-Input Single-Output) case with the Constant Modulus criterion and a concurrent algorithm is proposed. It avoids degenerated solutions and shows better behavior than the others presented in the literature. In order to avoid error propagation, a hybrid DFE is also proposed. It includes a recurrent neural network in the feedback filter and may be advantageously used to equalize linear and nonlinear channels.

Neste trabalho, investigam-se técnicas autodidatas baseadas em estatísticas de ordem superior, aplicadas à equalização de canais de comunicação. Inicialmente, obtém-se um intervalo do passo de adaptação que assegura a convergência do algoritmo do Módulo Constante com o gradiente exato. Algoritmos como o CMA (Constant Modulus Algorithm) e o SWA (Shalvi-Weinstein Algorithm) são revisitados e suas capacidades de tracking analisadas, utilizando-se uma relação de conservação de energia. Além disso, é proposto um algoritmo autodidata denominado AC-CMA (Accelerated Constant Modulus Algorithm) que utiliza a segunda derivada (“aceleração”) da estimativa dos coeficientes. Esse algoritmo pode apresentar um compromisso mais favorável entre complexidade computacional e velocidade de convergência que o CMA e o SWA. Esses resultados são estendidos para o caso multiusuário. Através de simulações, os algoritmos são comparados e as análises de convergência e tracking validadas. Considerando o DFE (Decision Feedback Equalizer) no caso monousuário com o critério do módulo constante, é proposto um algoritmo concorrente que evita soluções degeneradas e apresenta um desempenho melhor do que os existentes na literatura. Com o intuito de evitar propagação de erros, é proposta uma estrutura híbrida que utiliza uma rede neural recorrente na malha de realimentação. Resultados de simulações indicam que seu uso pode ser vantajoso para canais lineares e não-lineares. / The equalization of communication channels is addressed by using blind techniques based on higher order statistics. A step-size interval is obtained to ensure the convergence of Steepest-Descent Constant Modulus Algorithm. The Shalvi-Weinstein Algorithm (SWA) and Constant Modulus Algorithm (CMA) are revisited and their tracking capabilities are analyzed by using an energy conservation relation. Moreover, a novel blind algorithm named Accelerated Constant Modulus Algorithm (AC-CMA) is proposed. It adjusts the second derivative (“acceleration”) of the coefficient estimates and presents a more favorable compromise between computational complexity and convergence rate than CMA or SWA. These results are extended to the MIMO (Multiple-Input Multiple-Output) case. By means of simulations, the algorithms are compared and the convergence and tracking analysis are validated. The Decision Feedback Equalizer (DFE) is considered in the SISO (Single-Input Single-Output) case with the Constant Modulus criterion and a concurrent algorithm is proposed. It avoids degenerated solutions and shows better behavior than the others presented in the literature. In order to avoid error propagation, a hybrid DFE is also proposed. It includes a recurrent neural network in the feedback filter and may be advantageously used to equalize linear and nonlinear channels.

Neste trabalho, são propostos e analisados algoritmos autodidatas eficientes para a equalização de canais de comunicação, considerando a transmissão de sinais QAM (quadrature amplitude modulation). Suas funções de erro são construídas de forma a fazer com que o erro de estimação seja igual a zero nas coordenadas dos símbolos da constelação. Essa característica os possibilita ter um desempenho similar ao de um algoritmo de equalização supervisionada como o NLMS (normalized least mean-square), independentemente da ordem da constelação QAM. Verifica-se analiticamente que, sob certas condições favoráveis para a equalização, os vetores de coeficientes dos algoritmos propostos e a correspondente solução de Wiener são colineares. Além disso, usando a informação da estimativa do símbolo transmitido e de seus símbolos vizinhos, esquemas de baixo custo computacional são propostos para aumentar a velocidade de convergência dos algoritmos. No caso do algoritmo baseado no critério do módulo constante, evita-se sua divergência através de um mecanismo que descarta estimativas inconsistentes dos símbolos transmitidos. Adicionalmente, apresenta-se uma análise de rastreio (tracking), que permite obter expressões analíticas para o erro quadrático médio em excesso dos algoritmos propostos em ambientes estacionários e não-estacionários. Através dessas expressões, verifica-se que com sobreamostragem, ausência de ruído e ambiente estacionário, os algoritmos propostos podem alcançar a equalização perfeita, independentemente da ordem da constelação QAM. Os algoritmos são estendidos para a adaptação conjunta dos filtros direto e de realimentação do equalizador de decisão realimentada, levando-se em conta um mecanismo que evita soluções degeneradas. Resultados de simulação sugerem que a utilização dos esquemas aqui propostos pode ser vantajosa na recuperação de sinais QAM, fazendo com que seja desnecessário o chaveamento para o algoritmo de decisão direta. / In this work, we propose efficient blind algorithms for equalization of communication channels, considering the transmission of QAM (quadrature amplitude modulation) signals. Their error functions are constructed in order to make the estimation error equal to zero at the coordinates of the constellation symbols. This characteristic enables the proposed algorithms to have a similar performance to that of a supervised equalization algorithm as the NLMS (normalized least mean-square), independently of the QAM order. Under some favorable conditions, we verify analytically that the coefficient vector of the proposed algorithms are collinear with the Wiener solution. Furthermore, using the information of the symbol estimate in conjunction with its neighborhood, we propose schemes of low computational cost in order to improve their convergence rate. The divergence of the constant-modulus based algorithm is avoided by using a mechanism, which disregards nonconsistent estimates of the transmitted symbols. Additionally, we present a tracking analysis in which we obtain analytical expressions for the excess mean-square error in stationary and nonstationary environments. From these expressions, we verify that using a fractionally-spaced equalizer in a noiseless stationary environment, the proposed algorithms can achieve perfect equalization, independently of the QAM order. The algorithms are extended to jointly adapt the feedforward and feedback filters of the decision feedback equalizer, taking into account a mechanism to avoid degenerative solutions. Simulation results suggest that the proposed schemes may be advantageously used to recover QAM signals and make the switching to the decision direct mode unnecessary.

Neste trabalho, são propostos e analisados algoritmos autodidatas eficientes para a equalização de canais de comunicação, considerando a transmissão de sinais QAM (quadrature amplitude modulation). Suas funções de erro são construídas de forma a fazer com que o erro de estimação seja igual a zero nas coordenadas dos símbolos da constelação. Essa característica os possibilita ter um desempenho similar ao de um algoritmo de equalização supervisionada como o NLMS (normalized least mean-square), independentemente da ordem da constelação QAM. Verifica-se analiticamente que, sob certas condições favoráveis para a equalização, os vetores de coeficientes dos algoritmos propostos e a correspondente solução de Wiener são colineares. Além disso, usando a informação da estimativa do símbolo transmitido e de seus símbolos vizinhos, esquemas de baixo custo computacional são propostos para aumentar a velocidade de convergência dos algoritmos. No caso do algoritmo baseado no critério do módulo constante, evita-se sua divergência através de um mecanismo que descarta estimativas inconsistentes dos símbolos transmitidos. Adicionalmente, apresenta-se uma análise de rastreio (tracking), que permite obter expressões analíticas para o erro quadrático médio em excesso dos algoritmos propostos em ambientes estacionários e não-estacionários. Através dessas expressões, verifica-se que com sobreamostragem, ausência de ruído e ambiente estacionário, os algoritmos propostos podem alcançar a equalização perfeita, independentemente da ordem da constelação QAM. Os algoritmos são estendidos para a adaptação conjunta dos filtros direto e de realimentação do equalizador de decisão realimentada, levando-se em conta um mecanismo que evita soluções degeneradas. Resultados de simulação sugerem que a utilização dos esquemas aqui propostos pode ser vantajosa na recuperação de sinais QAM, fazendo com que seja desnecessário o chaveamento para o algoritmo de decisão direta. / In this work, we propose efficient blind algorithms for equalization of communication channels, considering the transmission of QAM (quadrature amplitude modulation) signals. Their error functions are constructed in order to make the estimation error equal to zero at the coordinates of the constellation symbols. This characteristic enables the proposed algorithms to have a similar performance to that of a supervised equalization algorithm as the NLMS (normalized least mean-square), independently of the QAM order. Under some favorable conditions, we verify analytically that the coefficient vector of the proposed algorithms are collinear with the Wiener solution. Furthermore, using the information of the symbol estimate in conjunction with its neighborhood, we propose schemes of low computational cost in order to improve their convergence rate. The divergence of the constant-modulus based algorithm is avoided by using a mechanism, which disregards nonconsistent estimates of the transmitted symbols. Additionally, we present a tracking analysis in which we obtain analytical expressions for the excess mean-square error in stationary and nonstationary environments. From these expressions, we verify that using a fractionally-spaced equalizer in a noiseless stationary environment, the proposed algorithms can achieve perfect equalization, independently of the QAM order. The algorithms are extended to jointly adapt the feedforward and feedback filters of the decision feedback equalizer, taking into account a mechanism to avoid degenerative solutions. Simulation results suggest that the proposed schemes may be advantageously used to recover QAM signals and make the switching to the decision direct mode unnecessary.